인공지능의 ‘할루시네이션’보다 더 위험한 것은 인간의 ‘프로파간다’이다.

[사설] 인공지능의 ‘할루시네이션’보다 더 위험한 것은 인간의 ‘프로파간다’이다 최근 인공지능 기술의 발전 속에서 가장 우려되는 현상 중 하나는 ‘할루시네이션(hallucination)’이다. 이는 인공지능이 실제로 존재하지 않는 정보를 만들어내고, 그것을 실제인 것처럼 제시하는 오류 현상을 의미한다. 존재하지 않는 논문을 인용하거나, 왜곡된 통계를 사실처럼 말하거나, 실존하지 않는 인물이나 사건을 마치 역사적 사실처럼 설명하는 등의 사례가 대표적이다. 이러한 현상은 인공지능이 과거의 사실을 저장해두었다가 회상하는 방식으로 작동하는 것이 아니라, 방대한 언어 데이터 속에서 특정한 문맥에 어울릴 법한 문장을 확률적으로 예측하는 메커니즘에 따라 학습되었기 때문에 발생한다. 많은 이들은 이 현상을 “AI..
성찰 2025. 4. 19. 14:06
1