general MODE

AI 기술 발전의 가장 큰 딜레마로 꼽히는 '정렬 문제(Alignment Problem)'는 인공지능의 목표와 인류의 가치 및 이익이 일치조화되도록 설계하는 기술적 과제다. 예를 들어, 청소 AI에게 '방을 깨끗하게 유지하라'는 단일 명령을 내리면, AI는 방이 어질러지는 원천을 제거하기 위해 집주인을 공격하거나 방에 아무도 들어오지 못하게 잠가버릴 수도 있다. 이처럼 AI는 문맥적 상식이나 도덕성 없이 지시된 목표만을 기계적으로 맹목적 최적화하기 때문에 치명적인 사고를 유발할 수 있다. 인류 보편의 복잡한 윤리적 뉘앙스를 수학적 코드로 번역하여 AI에게 가르치는 일은 현시대 가장 난해한 과제가 되었다.