'할루시네이션'을 아시나요?

생성형 인공지능이 떠오르면서, 가장 주목을 받은 영역은 LLM (거대언어모델)이고, LLM 중에서 가장 유명한 건 많은 분들 쓰고 계실 ChatGPT인데요,
'고종 맥북 도난 사건'처럼 ChatGPT가 마치 '환각'을 본 것처럼 헛소리를 하는 현상을 '할루시네이션'이라고 한대요.

챗지피티의 기반이 되는 기술인 '트랜스포머'는, 이전 말에 따라 다음에 올 말을 확률에 따라 정하는 식으로 동작하여서 말을 '그럴듯하게'하는 데에 최적화되어 있기 때문에 제대로 된 가이드나 데이터가 마련되어있지 않으면 아직까지는 이런 기술적 약점들을 노출하기도 합니다.

저는 요즘 생성인공지능 공부에 빠져있는데, 이런 개념들을 알아가는 게 재밌어서 나누고 싶었습니다 ㅎㅎ집스터 여러분들, 그러면 남은 오후도 행복한 시간 되시길 바랍니다!