어느 AI가 답했는지 증명하려면 70배 넘게 든다

점선이 그어진 용어에 마우스를 올리거나 누르면 뜻이 뜹니다.

01TREND 01 · AI TRUST앤트로픽이 「이 답은 그 AI가 냈다」를 증명하는 코드를 냈다⁠↗

사무소에서 이런 일이 생길 수 있습니다. 두 달 전 AI에게 받은 도면 검토 의견이 뒤늦게 틀린 것으로 드러났습니다. 어느 AI에게 물었던 것인지 확인하려 해도 남은 것이 없습니다. 요금도 그렇습니다. 비싼 모델 값을 내고 썼는데 실제로 답한 것이 그 모델이었는지 확인할 길이 없습니다. 여러 AI 가운데 하나로 넘겨 주는 중개 서비스(라우팅 서비스)를 거쳐 쓰면 더 그렇습니다.

앤트로픽(Anthropic)이 11월 2일 공개한 플래시프루브(FlashProve)가 이 문제를 다룹니다. 하는 일은 자재 시험성적서와 닮았습니다. 창호를 받을 때 제품만 받지 않고 그 제품이 맞다는 성적서를 함께 받습니다. 플래시프루브는 AI가 답을 낼 때마다 「이 답은 그 모델이 낸 것」이라는 증명을 함께 붙입니다.

AI를 제공하는 쪽이 자기 모델의 지문을 미리 공개해 둡니다. 답이 나올 때마다 그 지문과 맞는지를 보이는 증명을 함께 만듭니다. 답을 받은 쪽은 그 증명을 확인합니다. 확인은 보통 사무실 컴퓨터에서 몇 초면 끝납니다. 제공하는 쪽이 가중치(weights)를 넘겨주지 않아도 됩니다. 모델을 내주지 않고 「우리 모델이 답했다」를 보일 수 있습니다.

그런데 지금 당장 쓸 수 있는 기술은 아닙니다. 증명을 만드는 데 드는 GPU 시간이 모델을 그냥 돌릴 때의 70~95배입니다. 답 하나를 증명하려고 계산을 일흔 번 넘게 더 하는 것입니다. 앤트로픽도 완성된 연구가 아니라 중간 결과라고 적었습니다. 제품에 넣을 계획은 없고, 다른 곳이 가져가 고쳐 쓰기를 바란다고 했습니다. 미리 공개하는 지문도 믿을 수 있는 곳에서 나와야 한다는 조건이 남습니다.

그래서 증명에 돈이 많이 드는 동안 사무소가 할 수 있는 것은 적어 두는 일입니다. 어느 AI에 무엇을 물어 무엇을 받았는지 한 줄로 남깁니다. 기록은 증명이 아닙니다. 그래도 두 달 뒤에 되짚을 단서는 됩니다.

02TREND 02 · AI PLATFORM같은 클로드인데 계약 상대가 둘로 늘었다⁠↗

구글 클라우드(Google Cloud)가 11월 3일 10월 소식을 정리해 올렸습니다. 그 가운데 하나가 클로드(Claude)를 쓰는 길이 둘로 늘었다는 것입니다. 종전에는 구글이 돌려 주는 클로드만 쓸 수 있었습니다. 이제는 앤트로픽이 직접 돌리는 클로드도 고를 수 있습니다. 시험 단계를 지나 정식 제공(GA)이 됐습니다.

「돌린다」가 무슨 뜻인지부터 보겠습니다. 모델은 같은 클로드입니다. 다른 것은 그 모델을 자기 서버에 올려 두고 돌려 주는 회사입니다. 창호를 본사에서 직접 받을 때와 지역 대리점을 거쳐 받을 때에 가깝습니다. 제품은 같아도 계약서에 적히는 상대가 다르고, 청구서가 오는 곳이 다르고, 문제가 생겼을 때 전화할 곳이 다릅니다. 같은 오퍼스 5.5(Opus 5.5)를 쓰더라도 어느 쪽을 골랐느냐에 따라 이 셋이 달라질 수 있습니다. 어느 쪽이 어떻게 되는지는 사무소가 맺은 계약서와 약관에 적혀 있습니다.

돌리는 회사를 안다고 해서 자료가 어디에 저장되는지까지 알 수는 없습니다. 그것은 따로 적혀 있습니다. 사무소가 외부 서비스를 거쳐 AI를 쓴다면 약관을 펴 보는 쪽이 낫습니다. 계약 상대가 누구인지, 도면과 글이 어느 지역 서버에 저장되는지, 얼마나 오래 보관되는지가 적혀 있습니다. 앞 소식과 함께 보면 물을 것이 분명해집니다. 어느 AI가 답했는지, 그 AI를 누가 돌렸는지입니다.

같은 글에는 쓸 수 있는 모델이 늘어난 것도 적혀 있습니다. 제미나이 4 아르곤(Gemini 4 Argon)을 구글 클라우드에서 쓸 수 있게 됐습니다. 클로드 오퍼스 5.5와 소네트 5.5(Sonnet 5.5)는 구글 안티그래비티(Antigravity)에 들어갔습니다.

03TREND 03 · BIM × AI코닉 AI가 모델 안에서 직접 고친다⁠↗

코닉(Qonic)이 11월 5일 코닉 AI를 공개했습니다. 코닉은 클라우드에서 쓰는 BIM 모델링 플랫폼입니다. 애스크 코닉(Ask Qonic) 대화창에 말로 적으면 AI 에이전트(AI agent)가 모델 안의 요소를 찾고 확인하고 고칩니다. 코닉은 이것이 모델 옆에 띄우는 별도 창이 아니라 모델 안에서 바로 고치는 기능이라는 점을 내세웠습니다. 공개한 예는 네 가지입니다. 가구만 골라 층별로 색을 입힙니다. 방화 등급이 빠진 창을 찾아 F60을 넣습니다. 콘크리트 품질 보고서를 건물별·강도별로 묶어 만듭니다. 고른 창을 오른쪽으로 0.5미터 넓힙니다. 코닉의 야코브 더 쉬터(Jacob De Sutter)가 말한 범위는 이렇습니다. 형상과 속성을 만들고 고치는 일 가운데 코닉에서 손으로 할 수 있는 것은 모두 말로도 된다는 것입니다.

여기서 F60을 넣는 일은 모델 속성에 값을 채우는 작업입니다. 요구 성능과 제품 증빙은 따로 확인해야 합니다. 제한도 걸려 있습니다. 코닉 AI는 사용자가 고칠 권한을 가진 모델만 고칩니다. 바꾼 것은 손으로 한 작업과 똑같이 되돌릴 수 있습니다. 작업에 쓸 AI 모델도 고릅니다. 소네트·오퍼스·아스트라(Astra) 가운데 고르며, 손이 많이 가는 일에는 더 큰 모델을 쓰는 방식입니다. 요금은 쓴 토큰(token) 수로 계산합니다. 유료 플랜에는 월 할당량이 있고, 무료 플랜은 50유로부터 시작하는 토큰 팩을 한 번 사서 씁니다. 산 토큰은 기한이 없습니다. 코닉은 MCP(Model Context Protocol) 서버도 함께 냈습니다. 클로드·코덱스(Codex)·미스트랄 르샤(Mistral Le Chat) 같은 외부 AI를 붙일 수 있습니다. 할 수 있는 일은 프로젝트와 모델 찾기, 요소 조회, 수량 계산, IFC 내보내기, 요소 변경, 라이브러리 항목 관리입니다.

04TREND 04 · BIM × AI카오스가 V-Ray에 MCP 서버를 더했다⁠↗

카오스(Chaos)가 11월 6일 V-Ray 컬렉션(V-Ray Collection)에 AI 기능을 크게 보강한 업데이트를 냈습니다. MCP 서버가 생겨 클로드와 챗GPT(ChatGPT) 같은 외부 AI를 시각화 작업에 이어 쓸 수 있습니다. 지금 나온 서버는 V-Ray, 3D 자산 라이브러리인 카오스 코스모스(Chaos Cosmos), 군중·차량 시뮬레이션인 카오스 아니마(Chaos Anima)용입니다. 실시간 레이트레이싱 도구인 카오스 밴티지(Chaos Vantage)는 준비 중입니다. V-Ray MCP는 스케치업(SketchUp)과 라이노(Rhino)에서 씁니다. 3ds 맥스(3ds Max)는 다른 회사가 만든 MCP 서버가 V-Ray와 맞습니다. 외부 AI는 장면이 어떤 상태인지 읽습니다. 조명과 재질 설정을 손보고, 필요한 3D 자산을 찾아 가져다 놓습니다.

V-Ray 안에도 AI 어시스턴트가 들어갔습니다. 설정을 어떻게 잡을지 물으면 안내해 줍니다. 참조 이미지에 맞춰 장면 조명을 잡아 주는 스카이 매치(Sky Match)가 있고, 렌더 결과를 보고 의견을 주는 렌더 크리틱(Render Critique)도 있습니다. 코스모스에서는 참조 이미지 한 장으로 3D 모델을 만들고, 이미지로 3만 점이 넘는 자산 가운데 가까운 것을 찾습니다. AI 말고 새로 들어간 기능도 서른 가지가 넘습니다. V-Ray GPU가 AMD 하드웨어를 지원하는 것이 그 가운데 하나입니다. 어떤 작업에 AI를 먼저 쓸지는 사무소마다 다릅니다. 다만 외부 AI가 장면 설정과 자산 라이브러리에 어디까지 손댈 수 있는지는 처음에 정해 두는 쪽이 낫습니다.

마무리 - 되돌릴 수 있는 일만 AI에게 맡깁니다

이번 주 네 소식은 모두 같은 데를 가리킵니다. AI가 한 일을 나중에 증명할 수 있는지, 되돌릴 수 있는지입니다. 앤트로픽은 「이 답은 그 AI가 냈다」를 증명하는 방법을 내놓았고, 그 값이 아직 일흔 배가 넘는다는 것도 함께 적었습니다. 구글 클라우드는 같은 클로드를 누가 돌려 줄지 고르게 했습니다. 코닉은 권한과 되돌리기로 같은 문제를 풀었고, 카오스는 외부 AI를 시각화 작업에 연결했습니다.

증명하는 일은 아직 비싸고, 되돌리는 일은 지금도 됩니다. 그래서 지금 사무소가 할 수 있는 것은 두 가지로 볼 수 있습니다. 되돌릴 수 있는 일부터 AI에게 맡기고, 되돌릴 수 없는 일은 어느 모델에 무엇을 맡겼는지 적어 두는 것입니다. 되돌릴 수 있다고 해서 안전한 것은 아닙니다. 밖으로 보낸 자료는 되돌려도 돌아오지 않으므로, 무엇을 넣었는지도 함께 봅니다.

지난 한 달 동안 내가 AI에게 맡긴 일을 하나씩 말할 테니, 「일 · 쓴 AI 이름 · 되돌릴 수 있는가 · 되돌릴 수 없다면 무엇을 적어 두어야 하는가」 네 항목으로 표를 만들어 줘. 내가 말하지 않은 것은 비워 두고 짐작해 채우지 마.
(여기에 도면 검토 · 시방서 초안 · 투시도 보정처럼 떠오르는 것을 적습니다)

사무소가 이번 주에 확인할 것은 다음과 같습니다.

1. 지난 한 달 동안 AI에게 맡긴 일을 떠오르는 대로 한 장에 적습니다.
2. 그 가운데 되돌릴 수 있는 일에 표시를 합니다. 파일을 덮어쓴 일은 사본이나 버전 기록이 없으면 되돌릴 수 없는 쪽입니다.
3. 되돌릴 수 없는 일마다 어느 AI를 썼는지 적습니다. 기억나지 않으면 비운 채로 둡니다.
4. 외부 서비스를 거쳐 AI를 쓰고 있다면 이용 약관에서 모델을 누가 운영하는지 찾아봅니다.
5. BIM 모델이나 렌더링 설정을 AI가 고치게 할 때 되돌리기가 되는지 미리 한 번 시험합니다.
6. 납품물에 들어가는 글과 도판에는 어느 AI를 어디에 썼는지 한 줄로 남깁니다.

여섯 항목 가운데 1번과 2번은 오늘 초안을 적어 볼 수 있습니다.

CARD EDITION

인스타그램·모바일용 카드 6장 - 누르면 원본 크기로 열립니다.