현재 대부분의 사람들은 AI 에이전트(AI agents)에 대해 들어봤을 것입니다. AI 에이전트는 일련의 작업을 자율적으로 수행할 수 있는 소프트웨어를 의미하지만, 한 회사는 AI와 관련하여 다른 접근 방식을 취하기로 결정했습니다. 이 회사는 수요일에 조직 내부의 업무 흐름을 개선하기 위해 'AI 팀원(AI teammates)'이라는 이름의 베타 버전을 공개했습니다.
아사나(Asana)의 AI 책임자인 페이지 코스텔로(Paige Costello)는 회사가 이 이름을 의도적으로 선택했다고 밝혔으며, 이는 직장 환경에서 AI와 상호 작용하는 방식에 대한 사람들의 인식에 변화를 주고자 함이라고 설명했습니다. 코스텔로는 테크크런치(TechCrunch)와의 인터뷰에서 "우리는 미래의 업무가 사람이 사람과 일하는 것뿐만 아니라, 사람이 AI와 함께 일하는 형태일 것이라고 믿습니다"라고 말했습니다.
이어 그녀는 "그리고 우리는 그런 환경에서는 AI에게 무엇을 요청했는지, AI가 실제로 무엇을 수행했는지, 그리고 이를 구현하는 데 얼마의 비용이 발생했는지 이해하는 것이 똑같이 중요할 것이라고 믿습니다"라고 강조했습니다.
코스텔로에 따르면, 이는 기업이 핵심 워크플로우의 일부를 실행할 수 있도록 맞춤형 어시스턴트를 명확히 설계하고 구축하는 것을 목표로 합니다.
이것이 이상적으로 들릴 수 있지만, 실제 운영에서는 어떤 모습일까요? 코스텔로에 따르면, 이전 세대의 워크플로우 도구들은 경직된 방식으로 정의되어 있었지만, 오늘 발표된 내용(및 생성형 AI 전반)의 차별점은 기업 내부의 업무를 훨씬 유연한 방식으로 처리할 수 있다는 점입니다.
따라서 업무가 유입되면 AI가 현재 상태를 평가하여, 다음 단계로 진행할 준비가 되었는지, 아니면 추가 정보가 필요하여 업무를 인간에게 되돌려야 하는지 판단합니다. 예를 들어, 설명이 누락되었거나 부적절한 도움 티켓(help ticket)이 접수되면, AI 팀원이 해당 티켓을 제출한 사람에게 되돌려보내 필요한 내용을 요청할 수 있습니다. 이 과정에는 직원 개인이 먼저 생성형 AI를 활용해 티켓 초안 작성을 돕고, 그 후 AI 팀원이 해당 티켓을 문제 해결에 적합한 담당자에게 할당하는 과정이 포함될 수 있습니다.
'워크 그래프(work graph)'는 기업 내부에서 업무가 어떤 경로로 움직이는지에 대한 귀중한 정보를 제공함으로써, 사람과 AI 모두가 개개인과 부서 간의 업무 연관성을 이해하도록 돕습니다.
코스텔로는 "워크 그래프는 AI에게 단순히 업무가 '어떻게' 발생하는지만을 알려주는 것이 아니라, 이 특정 사례에서 업무가 '어떻게' 발생하는지를 알려줍니다. 따라서 AI 팀원을 특정 워크플로우에 통합하면, 그들에게 주어진 특정한 역할이 생깁니다. 그들에게 명확한 목표가 주어지고 어떤 정보를 읽어야 하는지 알게 되면, 올바른 작업을 수행할 가능성이 훨씬 높아지기 때문입니다"라고 설명했습니다.
그러나 이 모든 것이 긍정적으로 들릴지라도, AI 에이전트는 여전히 환각 현상(hallucinate)을 일으킬 수 있으며 모든 활동의 본질을 파악하지 못할 수 있다는 점은 분명합니다. 코스텔로는 AI가 항상 정확한 결정을 내릴 수 없음을 인정하며, 아사나는 고객들에게 반드시 인간의 개입(human involvement)을 유지하도록 독려하고 있습니다.
그녀는 "아사나의 핵심 원칙은 '인간의 개입(human in the loop)'입니다. 우리는 궁극적으로 결정에 대한 책임과 결과에 대한 책임은 인간에게 있다고 믿습니다"라고 말했습니다.
이는 인간이 회사의 가치와 업무 방식에 맞는 건전한 권장 사항을 생성하는지 감독해야 함을 의미합니다.
결론적으로, 아티클은 이 기술이 업무 효율성을 극대화하지만, 최종적인 판단과 책임은 인간의 검토를 거치는 하이브리드 시스템으로 작동해야 함을 강조하고 있습니다.