요약
모델 갱신이 공적 심리를 공급자의 일정에 종속시키지 않도록, 변경된 도구나 규범의 내용·권한·적용 범위·영향 사건을 추적하고 당사자가 이의를 제기할 수 있게 해야 한다. 이는 기술 운영자의 도구 수정 권한과 법적 규범 변경 승인 권한을 분리하고 변경 이유와 영향을 사건 관계자가 이해할 수 있게 공개할 때 성립한다.
7.1변경 권한·범위 추적과 이의 제기
배우는 제도는 바꾸는 권한이 어디에 있는지 물을 수 있을 때에만 정당하다. 모델을 고치는 손과 규범을 바꾸는 손이 같은 조직 안에 있어도 권한의 근거는 같지 않다. 이 편의 중심 명제는 변경된 규범 또는 도구의 내용과 권한, 적용 범위와 영향을 받는 사건을 추적하고 이의를 제기할 수 있게 하라는 것이다. 변경 권한자와 근거, 이유와 범위가 공개되고 다툼의 경로가 열려야 한다. 이 물음이 해결되지 않으면 침해에 앞서 숙고와 이의 제기, 중지와 회복의 시간을 확보하는 공적 기능이 공급자의 일방적인 업데이트 일정에 종속된다. 공급자의 동의 없이는 그 공급자를 심리할 수 없는 상태가 되면 독립된 심리는 무너진다.
7.2권한 분리와 변경 이유의 이중 공개
성립 조건은 권한과 절차의 이중 공개다. 기술 갱신과 규범 변경의 권한 분리가 먼저다. 기술 운영자는 성능과 안전을 이유로 도구를 바꿀 수 있으나, 그 변경이 권리 효과를 바꾸면 법정 절차의 언어로 다시 정당화되어야 한다. 다음은 이유의 공개다. 무엇이 왜 바뀌었고 누구에게 어떤 영향을 주는지가 사건 관계자가 이해할 수 있는 형태로 남아야 한다. 「대한민국헌법 제103조」의 구체적 조문 문언은 확인되지 않은 사실이다. 다만 관측된 헌법 규칙에서 확인되는 재판의 독립 원칙은 권한의 정당화가 독립된 심사로 이어져야 함을 보여준다. 「인공지능에 관한 프레임워크 협약」이 인권과 민주주의, 법치의 틀을 요구하는 점과 「영국 사법부의 인공지능 사용에 관한 입장문」이 책임 있는 이용을 강조하는 점도 같은 방향이다. 억제 권한 자체의 정당화는 IV-06에 맡기고 이 편은 변경 권한의 행사 방식에 집중한다.
7.3반론: 사전 심의에 따른 대응 마비
최강 반론은 모든 변경을 공적 절차로 묶으면 적응이 늦어지고 긴급한 보호가 비는 틈이 생긴다는 것이다. 기술 운영자가 결함을 즉시 고칠 때마다 사전 공적 심의를 거치라고 하면 현장의 대응력이 마비된다는 지적이다. 답은 임시 기술 조치 권한과 규범 변경 승인 권한을 나누고 사후 심사 문턱을 차등화하는 것이다. 긴급한 오류 차단이나 임시 조치를 기술 운영 권한으로 먼저 시행할 수 있다는 것과 구속력 있는 법적 기준을 바꿀 권한이 이미 있다는 것은 다르다. 임시 조치로 확보한 시간 동안 변경 이유의 공개와 독립 검증, 대체 가능성과 이해충돌 통제, 당사자의 반박 기회를 갖추지 못한다면 그 변경은 정당성을 얻지 못한다. 따라서 긴급 수정의 개시 경로는 열어 두되, 권리 효과를 바꾸는 변경의 유지 조건은 엄격한 공개 심사로 묻는다. 인공지능을 통한 접근 가능한 설명과 빠른 피해 파악이라는 희망도 권한 공개가 있을 때에만 당사자의 능력이 된다.
7.4권한 공개 명제의 탈락과 축소 조건
이 명제는 공급자의 모델 업데이트만으로 권리 효과가 달라졌는데 이를 단순 기술 정비로 처리하면 탈락한다. 반대로 변경의 내용과 권한, 적용 범위와 영향이 충분히 공개되고 실질적 이의 경로가 작동함이 확인되면 추가 통제 요구는 축소한다. 인간의 승인 표시만 형식적으로 남고 실제 변경 능력은 없거나, 공급자의 동의 없이는 그 변경 근거를 심리할 수 없는 상태여도 같은 실패다. 누가 어떤 권한으로 무엇을 바꾸었는지 당사자가 묻고 다툴 수 없는 변경은 정당화되지 않는다.