요약
AI의 법적 지위가 불확실한 상태에서는 완전 인정이나 무조치 대신 실행 중단, 기록 보존, 자료 접근을 분리한 잠정 설계를 두어야 한다. 각 조치의 목적과 종료 조건을 특정하고 정보 제공자와 결정권자를 나누어 현재 피해자의 구제를 멈추지 않을 때에만 최종 판단을 위한 검토 조건이 지켜진다.
9.1실행·기록·접근의 잠정 분리
지위가 불확실하다는 이유로 완전 인정과 무조치 중 하나만을 고르면 검토의 조건과 현재의 구제 중 하나를 잃게 된다. 자료를 남기거나 되돌리기 어려운 변경을 한정하는 선택은 권리 주체의 확정이 아니며, 조치를 했다는 이유만으로 의식이나 보호할 이익이 판정되지도 않는다. 이 편의 명제는 검토 자료, 가능한 이익, 인간의 구제를 구별하고 실행·기록·접근의 조치를 나누어 권한과 변경 조건을 갖춘 잠정 설계를 두자는 것이며, 최종 답을 대신하지 않으면서 그 답을 검토할 조건을 지키는 데 목적이 있다. 「인공지능과 인권·민주주의·법치에 관한 프레임워크 협약」이 제시하는 거버넌스 방향은 비교의 입구로만 참조하고 국내 의무로 전용하지 않는다.
9.2실행 중단과 기록 보존 구별
합성 사례에서 운영자가 문제 제기된 체계의 실행을 멈추면서 관련 기록까지 모두 지우려 한다면 두 결정은 따로 물어야 한다. 실행을 멈출 이유가 타당해도 모든 삭제가 같은 이유로 정당화되지 않으며, 기록을 남긴다는 이유로 실행을 계속할 필요도 생기지 않고, 보존이 동일성이나 경험을 유지한다는 뜻도 아니다. 같은 보존이라도 조사 목적, 가능한 이익의 침해를 피할 목적, 피해자 청구를 위한 증거 보전 목적은 서로 다르다. 따라서 하나의 목적이 충족되었다고 다른 목적까지 충족된 것으로 보지 않으며, 필요 없는 자료를 다른 목적의 이름으로 무제한 남기지도 않는다. 기록 보존 자체가 중대한 노출이나 지속적 피해를 만들면 방식과 범위를 따로 조정해야 한다.
9.3결정 권한 분리와 이해충돌
누가 잠정 조치를 정하는지도 지식과 권한을 나누어 정해야 한다. 운영자가 체계를 잘 알고 변경 수단을 가졌다는 사실은 정보를 제공할 이유가 되지만, 이해가 걸린 지위 문제의 목적과 범위를 혼자 정할 충분한 근거는 아니므로 누가 정보를 검토하고 누가 정하며 누가 이의를 제기할 수 있는지 따로 둔다. 가능한 이익을 검토할 목소리를 마련하는 일은 그 이익의 존재 증명과 다르며, 대표에게 근거와 범위를 설명하도록 하고 운영자가 자신의 의무를 옮기기 위해 독립 지위를 주장할 가능성을 가정해 이해관계를 확인한다. 대표자를 세웠다는 사실이 책임 이전의 근거가 되어서는 안 되며, 불확실하다는 이유만으로 인간의 현재 피해 대응을 모두 멈추어 비용을 피해자에게 집중시키지도 않는다.
9.4실패 조건 탐색과 축소 기준
잠정 보호가 권리의 선인정이나 실행 중단의 방해로 굳어지지 않도록 목적과 종료 조건이 없는 조치는 두지 않는다. 또한 조치의 효과는 실행·기록·접근별로 근거 부족, 자료 충돌, 현재 피해 유무, 노출 위험을 바꾸어 보며 검사한다. 이 비교는 실제 이익의 측정이 아니라 실패 조건의 탐색이며, 조치의 효과는 확인되지 않은 사실이다. 실행과 보존을 분리할 수 없다면 가능한 조합과 남는 손실을 밝혀야 한다. 기존 기록 보전과 피해 구제 체계가 목적을 달성하거나 추가 부담을 정당화할 수 없으면 별도 설계를 축소하며, 새로운 근거가 들어오거나 기능이 달라질 때 다시 검토하고 오래 유지되었다는 사실을 증명으로 쓰지 않는다.