생성형 인공지능(AI)은 취업 준비와 직장 업무 전반에서 빠르게 활용되고 있다. 이력서 작성, 보고서 초안 생성, 정보 요약 등 다양한 영역에서 사용되며 생산성을 높이는 도구로 평가된다. 그러나 이러한 기술에는 ‘할루시네이션(hallucination)’이라는 한계가 존재한다.

OpenAI는 공식 문서에서 “모델이 부정확한 정보를 생성할 수 있다”고 명시하고 있으며, Google DeepMind 또한 유사한 한계를 인정하고 있다. 할루시네이션은 AI가 사실이 아닌 내용을 사실처럼 생성하는 현상을 의미한다. 이 문제는 기술적 오류를 넘어, 실제 업무와 의사결정 과정에서 영향을 미칠 수 있는 요소로 논의되고 있다.

생성형 AI의 구조적 한계: 사실 검증 기능의 부재

대형 언어 모델은 입력된 질문에 대해 확률적으로 가장 자연스러운 답변을 생성하는 구조를 가진다. 이 과정에서 생성된 내용이 사실인지 여부를 내부적으로 검증하지 않는다. 스탠퍼드대학교 인간중심 AI 연구소(Stanford HAI)는 언어 모델의 신뢰성 문제를 주요 연구 주제로 다루며, “언어 모델은 설득력 있는 잘못된 정보를 생성할 수 있다”는 점을 지속적으로 지적해왔다. 이러한 특성은 모델의 설계 방식에서 비롯된 것으로, 특정 기업이나 서비스에 국한된 문제가 아니라 현재 생성형 AI 전반에서 공통적으로 나타나는 현상이다.

실제 사례: 법원에서 확인된 AI 오류 문제

AI 할루시네이션의 위험성은 실제 사례를 통해 확인된 바 있다. 2023년 미국 뉴욕 남부 연방법원(Southern District of New York)에서는 한 변호사가 생성형 AI를 활용해 작성한 법률 문서에 존재하지 않는 판례를 포함시킨 사건이 발생했다. 해당 문서는 법원에 제출되었으며, 이후 판례가 실제로 존재하지 않는 것으로 확인됐다. 법원은 해당 변호사에게 제재를 부과했으며, 판결문에서는 AI 도구 사용 시 정보 검증의 필요성이 강조됐다. 이 사건은 생성형 AI의 오류가 실제 업무 환경에서 문제로 이어질 수 있음을 보여주는 대표적인 사례로 언급된다.

생산성 향상과 한계: McKinsey 보고서 분석

글로벌 컨설팅 기업 McKinsey & Company는 2023년 보고서에서 생성형 AI가 다양한 직무에서 생산성 향상에 기여할 수 있다고 분석했다. 특히 문서 작성, 고객 응대, 데이터 분석 등 지식 기반 업무에서 효율성 개선 가능성이 제시됐다. 그러나 같은 보고서에서는 생성형 AI의 한계 또한 함께 언급된다. 생성된 결과의 정확성 문제, 편향 가능성, 검증 필요성 등이 주요 리스크로 제시됐다. 이는 AI 활용이 생산성 향상 도구로 기능하는 동시에, 사용자에 의한 검토 과정이 필요함을 의미한다.

미래 역량 변화: 세계경제포럼(WEF) 보고서

세계경제포럼(World Economic Forum)은 ‘Future of Jobs Report 2023’를 통해 향후 노동 시장에서 요구되는 핵심 역량을 제시했다. 보고서에 따르면 다음과 같은 역량이 중요하게 강조된다:
분석적 사고(Analytical thinking)
비판적 사고(Critical thinking)
기술 이해력(Technological literacy)
이러한 역량은 자동화 및 AI 확산 환경에서 인간이 수행해야 할 역할과 밀접하게 연결된다. 특히 정보의 정확성을 판단하고, 기술 결과를 해석하는 능력이 중요하게 다뤄진다.

생성형 AI는 취업 준비와 직장 업무에서 활용도가 빠르게 증가하고 있는 기술이다. 동시에, 할루시네이션과 같은 구조적 한계가 존재한다는 점도 공식적으로 확인되고 있다. 실제 법률 사례에서는 AI가 생성한 잘못된 정보가 문제로 이어졌으며, 글로벌 보고서에서도 정확성 검증의 필요성이 반복적으로 언급되고 있다. 또한 국제기구는 미래 노동 시장에서 분석적 사고와 비판적 판단 능력을 핵심 역량으로 제시하고 있다. 이러한 흐름은 AI 활용이 확대되는 환경에서, 기술 사용과 함께 정보 검증 과정이 중요하게 다뤄지고 있음을 보여준다.