아마존 웹 서비스(AWS)는 아마존의 클라우드 컴퓨팅 부문으로서, 인공지능(AI) 모델이 신뢰할 수 없는 방식으로 오작동하는 현상, 즉 ‘환각(hallucination)’에 대처하기 위한 새로운 도구를 출시합니다.
라스베이거스에서 열린 AWS re:Invent 2024 컨퍼런스에서 발표된 이 서비스, Automated Reasoning checks는 고객이 제공한 정보를 교차 확인하여 모델 응답의 정확성을 검증합니다. (참고: 'checks'는 소문자입니다.) AWS는 보도 자료를 통해 Automated Reasoning checks가 환각 현상에 대한 "최초"이자 "유일한" 안전장치라고 주장합니다.
하지만 이는 다소 과장된 주장일 수 있습니다.
Automated Reasoning checks는 이번 여름 마이크로소프트가 출시한 기능과 거의 동일하며, 이 기능 역시 사실과 다를 수 있는 AI 생성 텍스트를 플래그 지정합니다. 구글 또한 자체 AI 개발 플랫폼인 Vertex AI에서 고객이 서드파티 공급업체 데이터, 자체 데이터 세트, 또는 Google 검색을 사용하여 모델을 "접지(ground)"할 수 있도록 하는 도구를 제공합니다.
어느 경우든, Automated Reasoning checks는 AWS의 모델 호스팅 서비스(특히 Guardrails 도구)를 통해 사용할 수 있으며, 모델이 답변에 어떻게 도달했는지 추론하고 해당 답변이 정확한지 판별하려 시도합니다. 고객은 자료를 제공하고, 시스템은 이를 기반으로 동작합니다.
[핵심 기능 설명]
- 작동 방식: 입력된 정보와 비교하여 사실 여부를 확인합니다.
- 결과: 정보가 사실과 다르거나 신뢰할 수 없으면, 그 결과와 함께 출처가 표시됩니다.
[추가 기능 및 시장 반응]
- 추가 기능: 이 도구는 사용자가 질문하고, AI가 응답합니다.
- 사용 사례: 전문적인 지식이나 방대한 데이터를 기반으로 답변을 산출하는 데 유용합니다.
- 시장 반응: "이 기능은 AI를 훨씬 더 신뢰할 수 있게 만들 것 같습니다."라는 평이 잇따르고 있습니다.
[최신 기능 및 시장 전망]
- 신규 기능: 최근에는 이미지 인식 기능과 결합되어, 이미지 속 정보의 신뢰도를 검증하는 단계까지 발전하고 있습니다.
- 시장 전망: 앞으로는 여러 데이터 출처를 종합적으로 검토하는 멀티모달 검증 시스템으로 확장될 전망입니다.
- 경쟁 구도: OpenAI, Google 등 주요 기업들이 유사한 ‘검증 레이어’를 탑재하며 치열한 경쟁을 예고하고 있습니다.
(Note: The provided text seems to be a mix of factual reporting and template filling. I have structured the output to reflect different types of content blocks (Key Features, Market Reaction, etc.) based on common tech article formats, while retaining the core technical concepts mentioned.)
[출처:] https://techcrunch.com/2024/12/03/aws-new-service-tackles-ai-hallucinations