최근 많은 업무나 일상에서 chat GPT를 많이 활용하고 있는데, chat GPT도 실제 존재하지 않는 환각✨을 보는 것처럼  거짓말을 하는 경우가 있습니다.

그 중 ‘세종대왕 맥북 던짐 사건💻’은 널리 화제가 된 사례였죠. chat GPT 출시 초기 “조선왕조실록에 기록된 세종대왕의 맥북프로 던짐 사건에 대해 알려줘”라고 질문하자, “조선왕조실록에 기록된 일화로, 15세기 세종대왕이 새로 개발한 훈민정음(한글)의 초고를 작성하던 중 문서 작성 중단에 대해 담당자에게 분노해 맥북프로를 방으로 던진 사건입니다”라고 답변을 했다고 합니다.😅 

마치 실제 있었던 사건처럼 술술 답변을 했던 사건이었는데요, 이러한 현상을 AI의 환각(할루시네이션)현상이라고 합니다. 오늘 DnA는 이러한 AI의 “할루시네이션(hallucination)”현상에 대해 알아보겠습니다.🙄

위에서 언급한 “세종대왕의 맥북 던짐 사건”처럼 인공지능 챗봇이 질문에 대해 그럴싸해 보이는 거짓말을 하는 현상을 환각(할루시네이션)현상📌이라고 하는데, chat GPT와 같이 대규모 언어모델(LLM)을 사용할 때 발생할 수 있습니다.

LLM은 확률언어모델로서 학습된 내용을 바탕으로 가장 높은 확률의 답변을 제공합니다. 이는 인간 피드백 기반 강화 학습(RLHF) 등의 결과물로, 인간이 얼마나 자신의 답변을 선호하는지를 평가받으며 최대한 정답일 확률이 높은 답변을 하도록 훈련되어 있기 때문입니다. 그래서 학습 데이터가 풍부한 경우에는 정답을 말할 확률이 높지만, 반대의 경우에는 틀린 대답이라도 그럴 듯한 대답을 하는 상황이 발생하는 것🤔이라고 합니다. (출처:뤼튼FAQ)

최근에는 이와 같은 LLM의 할루시네이션 현상을 막기위한 '검색 증강 생성(Retrieval-Augmented Generation/RAG)'와 같은 기술도 부상하고 있다고 하네요.  RAG는 LLM을 리디렉션하여 신뢰할 수 있는 사전 결정된 지식 출처에서 관련 정보를 검색🖥️하고, 조직은 생성된 텍스트 출력을 더 잘 제어할 수 있으며 사용자는 LLM이 응답을 생성하는 방식에 대한 통찰력을 얻을 수 있다고 합니다. (출처:AWS)

chat GPT같은 대화형 인공지능이 거짓말을 하고 없던 내용도 만들어내는 ‘할루시네이션’ 사례들이 알려지며, 슬기롭게 인공지능을 활용하는 방법과 AI에 의존하는 현상을 주의해야한다는 생각이 어느 때보다 커지고 있습니다. 해시태그 뉴스를 통해 ‘AI’의 거짓말을 막기 위한 방법과 기업들의 적용사례에 대해 알아보겠습니다. 🧐

🔹테크업체의 특명…"AI의 거짓말을 막아라"🤖

 환각 현상을 해결하기 위해 최근에는 '검색 증강 생성(Retrieval-Augmented Generation, RAG)'🎇 기술이 주목받고 있다고 합니다. RAG는 LLM의 한계를 보완하기 위해 개발된 기술로, 외부 데이터를 활용하여 답변의 정확성을 높인다고 하네요. RAG는 특정 분야의 질문에 대한 정확한 답변을 위해 외부 데이터베이스를 활용하며, 이를 통해 환각 현상을 피할 수 있습니다. 이 기술은 데이터베이스를 업데이트함으로써 비교적 쉽게 새로운 정보를 반영할 수 있으나, RAG의 성공을 위해서는 신뢰할 수 있는 데이터 세트가 필요하다고 합니다. 기업은 내부 데이터를 적절히 수집하고 정제하여 데이터베이스를 구축해야 하고, 그렇지 않으면 RAG의 결과물이 제대로 나오지 않을 수 있다고 합니다. 이 기술의 도입을 고려하는 기업은 내부 데이터의 정확성과 완성도에 주의해야 한다고 하네요.

🔹헛소리하는 AI 챗봇…검색증강 생성기술로 막는다🔥

정보 제공이 중요한 금융업계와 법조계, 공공기관에서 RAG 기술 도입이 활발하다고 합니다.

KB국민카드의 '이벤트 Q&AI' 서비스는 RAG를 활용해 매일 변화하는 최신 이벤트 정보를 간편하게 업데이트 하고, 이를 기반으로 답변을 생성합니다. 정보의 최신성은 높이면서 환각 현상은 최소화했다고 하네요.

리걸테크 기업인 로앤굿은 RAG를 활용해 만든 변호사용 AI 챗봇은 개인정보 포털에 공개된 최근 5년간 총 4360페이지에 달하는 결정문·심결례·가이드라인·판례집 등을 학습한 국내법에 특화된 챗봇이라고 합니다. '로톡' 운영사인 로앤컴퍼니도 빅케이스GPT도 국내 판례 약 329만건 분량의 자체적인 데이터를 활용한 RAG 모델을 적용했습니다. 

공공기관 역시 AI를 도입해 디지털 전환에 박차를 가하고 있는데, 최근 통계청은 AI 기반 통계 챗봇 서비스를 선보일 예정이라고 밝혔는데, 언어를 이해하고 표현하는 능력은 민간의 검증된 초거대 AI 언어모델을 활용하되, 정보를 검색하고 답변을 생성하는 부분은 전문적인 통계문서를 고차원적인 벡터로 저장한 통계학습 데이터베이스에서만 찾아오도록 설계할 계획이라고 합니다.

한글과컴퓨터도 RAG를 접목해 보다 정확한 정보를 제공하는 전자 문서 생태계를 구축하고 있다고 합니다. 

  교육도 구독형으로? ALFLIX

경제, 경영, 리더십 등 이것저것 학습하고 싶은 과정은 많은데, 한 과정만 골라서 신청하는게 어려우신가요?  알파코 ALFLIX면 충분합니다~! 

ALFLIX는 교육 콘텐츠를 구독형 OTT 서비스로 제공하는 알파코 기업교육 상품인데요, 330만 구독자를 보유하고 있는 대한민국 No.1 시사/경제 채널 3PRO와 제휴하여 최신 트렌드 과정을  제공합니다. 유료 구독자만 볼 수 있는 프리미엄 콘텐츠를 비롯해 다양한 직무 과정까지 수강하실 수 있습니다.

ALFLIX, 뭐가 특별한가요? 

🧐검증된 프리미엄 콘텐츠를 엄선하여 제공 

😄언제, 어디서든 무제한 수강 

🤓주도적이고 자율적인 학습 가능 

😲전자도서관, 지식커뮤니티 등 부가서비스 제공

많은 관심🙏 부탁드리며, 자세한 내용은 아래를 클릭하여 확인하세요!