요약
사생활과 영업비밀 및 평의 기록 보호는 외부 감사를 전면 면제할 사유가 아니라, 사후에 책임과 오류 원인을 물을 수 있도록 감사 방식을 설계하는 조건이다. 감사 가능한 보안이 성립하려면 관측·보존·해석의 경로를 분리하고, 접근 권한을 목적과 역할에 묶으며, 감사 주체의 열람 범위와 판단 제약을 기록으로 남겨야 한다.
9.1감사 설계 조건으로서의 비밀보호
사법 도구가 사생활·영업비밀·재판 평의 기록을 수록하는지 확인해야 한다. 실제 수록 범위는 확인되지 않은 사실이다. 그래서 보안을 이유로 외부의 눈을 모두 막으면 도구는 안전해 보이지만, 그 도구가 무엇을 근거로 누구에게 불리하게 작동했는지는 아무도 물을 수 없게 된다. 이 물음이 해결되지 않으면 비밀을 지킨다는 명분 아래 오류와 편향, 남용이 남고, 피해를 입은 사람이 그 원인을 물을 통로 자체를 잃는다. 이 편의 중심 명제는 비밀보호가 감사의 면제가 아니라 감사 방식의 설계 조건이라는 것이다. 이 편이 말하는 감사 가능한 보안은 누가 언제 무엇에 접근했고 무엇을 바꾸었는지를 나중에 물을 수 있는 상태를 유지하는 능력까지 포함한다.
9.2경로 분리와 목적 기반의 제한 열람
그 조건은 세 가지로 구체화된다. 먼저 관측과 보존, 해석의 경로를 나눈다. 기록을 만든 체계가 보관과 의미 판단을 독점하면 독립된 반박이 사라지므로, 원자료의 접근 기록은 운영 주체와 분리해 보존하고 해석은 다른 경로에서 다시 열 수 있어야 한다. 다음으로 접근은 목적과 역할에 묶는다. 전면 공개도 일괄 비공개도 아니라, 사건의 판단과 구제에 필요한 관계와 범위를 특정해 보호된 연결이나 제한된 열람으로 확인하게 한다. 마지막으로 검증 기록을 남긴다. 감사 주체가 무엇을 보았고 무엇을 보지 못했는지, 그 제약 아래에서 무엇을 판단했는지를 남겨야 나중의 재판단과 책임 추적이 가능하다. 해시와 보관 연계의 기술적 절차 자체는 I-26 및 II-02에 맡기고, 이 편은 그 기술이 사법에서 누구에게 열리고 누구에게 닫히는가라는 권한 설계만을 다룬다. 「CEPEJ 유럽 AI 윤리헌장」은 이러한 분리를 검토할 참고 자료다. 경로 분리가 헌장의 요구인지는 확인되지 않은 사실이다.
9.3반론: 감사로 인한 노출 위험과 설계
가장 강한 반론은 감사가 곧 노출이라는 것이다. 감사 경로를 만들수록 공격 표면이 넓어지고 핵심 정보와 민감 정보가 새어 나가며 비용과 관료화만 커진다는 우려다. 공공 도구가 민간보다 낮은 성능을 강요할 수 있다는 이 권 전체의 반론도 같은 결에 있다. 인정할 부분은 분명하다. 모든 내부와 모든 비공개 영역을 여는 감사는 필요하지도 가능하지도 않으며, 무분별한 기록은 오히려 비밀을 위태롭게 한다. 그러나 답은 면제가 아니라 설계다. 감사 목적에 필요한 자료와 기능을 정하고 열람 주체와 보관 기간, 파기 조건을 함께 정하며, 독립 평가자에게는 오류 원인을 확인할 접근 경로를 준다. 원자료가 필요한 감사라면 관계 정보만으로 대신하지 않는다. 접근 권한과 보호 방식을 확인하지 못한 운영은 허용된 구현으로 표시하지 않고 남은 제한을 드러낸다. 이렇게 범위를 정한 감사가 비밀을 보호하면서도 원천의 의존 관계를 확인할 수 있는지는 별도로 검토해야 한다.
9.4감사 면제 탈락과 불복 기록 보장
이 명제는 스스로 버려야 할 조건을 함께 안고 간다. 비밀을 이유로 독립 평가를 전부 면제하는 운영은 이 편이 말하는 감사 가능한 보안이 아니므로 탈락하며, 감사 자료가 불충분해 오류 원인을 확인할 수 없는 경우에도 같은 판정을 내린다. 감사 경로가 서류상으로만 존재하고 후속 판단에서 쓰이지 않는다면 그 설계는 실패한 것으로 보고 다시 짜야 한다. 구체적인 암호 방식이나 보관 주기의 적정치는 확인되지 않은 사실로 남기고, 이 편은 무엇을 남기고 누구에게 열어야 하는가라는 규범적 사양에 머문다. 재판 이유의 설명과 불복 절차 자체는 IV-10에 맡기고, 이 편은 그 불복이 가능하도록 감사 기록이 남는 조건만을 다룬다. 그 사양이 지켜질 때 AI는 비밀을 더 잘 숨기는 도구가 아니라, 비밀을 지키면서도 놓친 증거와 반론을 발견하고 피해 파악과 회복을 앞당기는 당사자의 능력으로 넓어질 수 있다. 「AI 프레임워크 협약」이 말하는 책임과 구제의 방향은 그 확장이 공적 질서 안에 머무르게 하는 바깥 틀이 된다.