구조를 읽는 뉴스

OpenAI 데이터 비보관 한국 기업이 AI 도입 전 먼저 볼 세 가지

업무 문서나 고객 상담 기록을 AI에 넣을 때 가장 먼저 드는 질문은 “이 내용이 어디에 얼마나 남는가”다. OpenAI가 8월 19일 소개한 데이터 비보관은 이 질문에 대한 API용 약속이다. 세 가지는 저장, 학습, 안전 점검이다. 이 세 항목을 나눠 보지 않으면 ‘데이터를 안 남긴다’는 말만 듣고 실제 계약 범위를 놓치기 쉽다. OpenAI는 자격을 갖춘 API 고객에게 요청 처리가 끝난 뒤 프롬프트와 응답을 보관하지 않는다고 설명했다. 고객이 따로 동의하지 않는 한 기업 고객 데이터는 모델 학습에 쓰지 않고, 직원도 그 내용을 검토할 수 없다는 것이 회사의 발표다. 다만 이는 모든 ChatGPT 계정에 자동 적용되는 기능이 아니며, 여러 대화를 살피는 안전 처리 방식은 아직 일부 고객과 시험 중인..

회사에서 AI 도구를 하나 더 도입할 때는 대개 답변이 얼마나 똑똑한지부터 비교한다. 그런데 고객 상담, 사내 문서, 계약서 초안까지 맡기기 시작하면 더 중요한 질문이 생긴다. 누가 어떤 모델로 질문을 보냈는지, 그 내용은 어디에서 처리됐는지, 비용은 어느 업무에서 늘었는지를 알 수 있는가다. 한 번의 연결로 여러 AI 모델을 고르는 ‘모델 게이트웨이’가 커지면서 이 질문은 더 현실적이 됐다. OpenRouter의 공개 API는 발행 시점에 414개 모델과 102개 제공업체를 보여 준다. 모델을 바꾸는 일은 쉬워졌지만, 입력한 정보가 지나가는 경로와 비용의 책임을 한 곳에서 관리하지 않으면 선택지가 많다는 장점이 곧 통제하기 어려운 위험이 될 수 있다. 모델이 늘어날수록 선택보다 경로가 중요해진다 모델 ..