아마존웹서비스(AWS)는 아마존 베드록 가드레일 내 자동 추론 검사(Automated Reasoning checks) 서비스를 정식 출시한다고 8일 밝혔다.

AWS 로고.

AWS는 환각 현상과 모호성을 최소화하기 위해 모델이 생성한 응답의 정확성을 최대 99%까지 수학적으로 검증할 수 있는AI 응답 검증 방식을 도입했다.

이 서비스는 △대용량 문서 지원 △시나리오 자동생성 △정책 피드백 향상 △사용자 정의 검증 설정 등의 기능을 제공한다.

구체적으로 최대 8만 토큰, 약 100페이지 분량의 문서를 한 번에 처리할 수 있어 방대한 정책 문서도 효과적으로 다룰 수 있다. 사용자가 생성한 검증 테스트를 저장하고 반복 실행할 수 있어 시간이 지나도 정책 유지 및 점검이 용이하다.

사용자 정의 기반으로 테스트 시나리오를 자동으로 생성하여, 시간과 노력을 절약하면서 더 많은 경우의 수를 테스트할 수 있도록 한다. 자연어 기반의 정책 개선 제안을 통해 정책 품질을 손쉽게 향상할 수 있다. 특정 요구 사항에 맞게 신뢰도 점수 임계치를 조정하여, 검사 강도를 제어할 수 있도록 지원한다.

통계적 샘플링이나 인간의 검토에 의존하는 기존 접근법과 달리, 자동 추론 검사는 형식 검증 기법을 활용한다. 이는 10여 년간 AWS 클라우드 인프라를 보호해 온 것과 동일한 수학적 방법이다. 정의된 비즈니스 규칙과 도메인 지식에 따라 AI 출력 결과가 적합한지 검증한다.

이와 함께 AWS는 AI 시스템에서 올바른 추론을 작동시키는 데 가장 어려운 과제로 규정한 △자연어에서 구조화된 언어로의 번역 △사실의 정의 △확정적 추론 등세 가지 문제를 자동 추론 검사 개발을 통해 해결했다.

자동 추론 검사는 자연어와 논리적 술어 간의 변환을 위해 여러 접근 방식을 사용한다. 이후 형식 논리 해결기(formal logic solvers)를 활용해 다양한 해석 간의 동치성(equivalence)을 증명하거나 반증한다.

아마존 베드록 가드레일의 자동 추론 검사는 현재 미국 동부(버지니아 북부, 오하이오), 미국 서부(오리건), 유럽(프랑크푸르트, 아일랜드, 파리) 등 여러 AWS 리전에서 제공된다. 아마존 베드록 콘솔과 파이썬용 AWS SDK을 통해 이용할 수 있다.