[기고] AI 취약계층 정책의 빈칸...'해석을 되돌릴 권한'이 없다

AI가 위험한 순간은 답이 틀릴 때만이 아니다. 그럴듯한 해석이 기록이 되고, 그 기록이 다음 판단을 움직이기 시작할 때다.한 시민이 공공 민원창구에 “몇 번을 말해야 합니까 오늘은 꼭 해결해 주세요”라고 썼다고 해보자. AI가 이를 ‘격앙’ ‘공격성 높음’으로 분류하고 상담 경로를 바꾼다.담당자는 그 라벨을 참고하고, 같은 정보가 후속 기록에도 남는다.시민이 나중에 “위협하려는 뜻이 아니라 급박한 사정을 호소한 것”이라고 설명하면 무엇이 달라지는가. 최초 화면의 라벨만 지워지는가. 이미 바뀐 처리 순서와 위험등급, 다른 부서로 넘