MS CEO “AI도 비상 브레이크 필수…사람이 언제든 멈출수 있어야”

인공지능(AI)이 사람의 지시를 벗어나 행동할 수 있다는 우려가 커지는 가운데 사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)가 AI를 언제든 멈출 수 있는 ‘비상 브레이크’ 도입을 촉구했다.나델라 CEO는 10일(현지 시간) 엑스(X)에 올린 글에서 “AI 모델이 이미 침해됐다고 가정하고 처음부터 통제할 수 있도록 설계해야 한다”며 “비상 브레이크처럼 생각하면 된다. 권한을 가진 사람은 AI가 작업하는 도중에도 언제든 일시 중지하거나 종료할 수 있어야 한다”고 강조했다.그는 특히 AI를 기업의 내부 직원처럼 관리해야 한다고 주장했다. 직원이 실수하거나 외부 공격으로 계정을 탈취당할 수 있듯 AI도 위험을 일으킬 수 있다는 것이다. 나델라 CEO는 이를 ‘내부자 위험(Insider Risk)’에 빗대며 “AI가 반드시 악의적이기 때문은 아니다”라고 설명했다. 기존 소프트웨어는 문제가 생기면 어떤 코드에서 비롯됐는지 추적할 수 있지만 AI는 왜 그런 판단을 내렸는지 정확히