나델라 “AI에도 비상 브레이크 필요”...인간 통제·독립 감사 강조

사티아 나델라 마이크로소프트(MS) CEO가 고성능 AI 시스템에 인간이 언제든 작동을 중단할 수 있는 ‘비상 브레이크’와 독립적인 통제 장치를 마련해야 한다고 강조했다. AI 모델의 판단을 무조건 신뢰하기보다 오작동이나 보안 침해 가능성을 전제로 시스템을 설계해야 한다는 주장이다.나델라 CEO는 10일(현지시간) X에 올린 글에서 “모델이 이미 침해됐다고 가정하고 처음부터 이를 격리해야 한다”며 “비상 브레이크처럼 권한이 있는 사람이 작업 도중에도 언제든 모델을 일시 중지하거나 종료할 수 있어야 한다”고 밝혔다.그는 AI 모델의