AI는 선박을 대신 설계하지 않는다

조선 설계에서 AI의 가장 위험한 약속은 “사람 대신 계산한다”는 말이다. 선박은 하나의 답을 생성하는 문제가 아니라, 수많은 가정과 기준, 개정과 책임이 얽힌 시스템이다. AI가 진짜 유용해지는 지점은 계산을 숨기는 데 있지 않다. 계산의 근거를 열어 보이고, 변경이 어디까지 영향을 주는지 설명하며, 엔지니어가 놓치기 쉬운 연결을 찾아주는 데 있다.

엔지니어가 AI를 불신하는 합리적인 이유

선박의 중량과 복원성, 구조, 저항·추진, 배관과 전기 설계에는 작은 입력 차이가 큰 결과 차이로 이어질 수 있다. 단위가 킬로그램에서 톤으로 잘못 해석되거나, 좌표 기준이 AP와 FP 사이에서 뒤바뀌거나, Sea Water와 Fresh Water 밀도가 혼동되면 계산은 멀쩡히 끝나도 결론은 틀릴 수 있다.

생성형 AI는 문맥을 읽고 설명하는 능력이 뛰어나지만, 확률적으로 문장을 만든다. 수식과 기준을 정확히 인용하는 것처럼 보여도 실제로는 누락하거나 혼합할 수 있다. 그러므로 최종 계산의 책임을 LLM에 넘기는 것은 자동화가 아니라 불확실성을 숨기는 일에 가깝다.

AI와 계산 엔진의 역할을 명확히 나눌 것

안전한 구조에서는 계산과 해석은 결정론적 엔진이 맡는다. Excel 수식, 검증된 Python 함수, 복원성·구조 전문 프로그램, 단위·규칙 검사기가 같은 입력에서 같은 결과를 만든다. AI는 그 앞뒤를 연결한다. 도면과 데이터시트에서 입력 후보를 찾고, 계산서의 셀과 의미를 매핑하며, 결과 차이와 근거를 설명한다.

이 역할 분담은 AI를 제한하는 것이 아니라 오히려 활용 범위를 넓힌다. LLM이 직접 계산값을 만들지 않아도, 수백 개 문서에서 관련 값을 찾고, 표기 차이를 해소하며, 검토자가 질문하는 언어로 복잡한 계산 의존성을 설명할 수 있다. 사람이 가장 많은 시간을 쓰는 확인과 대조를 줄이는 일이다.

모든 답변은 Evidence Package여야 한다

좋은 AI 답변은 한 문단의 결론으로 끝나지 않는다. 어떤 객체에 관한 답인지, 어느 문서와 개정에서 값을 가져왔는지, 어떤 계산서와 수식이 사용되었는지, 이전 결과와 무엇이 달라졌는지, 아직 해결되지 않은 충돌은 무엇인지 함께 제공해야 한다.

이를 Evidence Package라고 부를 수 있다. 답변에는 최소한 원본 영역의 좌표, 문서 개정, 객체 ID, 값과 단위, 계산 실행 ID, 적용 규칙, 신뢰 상태, 승인 필요 여부가 포함되어야 한다. 사용자는 AI의 문장을 믿는 것이 아니라 이 패키지를 통해 직접 검증한다.

Fail-closed: 모르면 멈추는 시스템

산업용 AI에서 가장 중요한 성능은 때때로 정답률이 아니라 멈출 줄 아는 능력이다. 태그가 일치하지 않거나 단위가 모호하고, 문서 개정이 뒤섞였거나 입력값이 허용범위를 벗어났다면 시스템은 추정으로 빈칸을 채우지 않아야 한다. 계산을 ‘완료’로 표시하지 않고 검토 대기 상태로 남겨야 한다.

Fail-closed는 보수적인 UX만 뜻하지 않는다. 오류 유형을 구체적으로 나누고, 사용자에게 다음 행동을 제시해야 한다. 예를 들어 “중량 단위를 확인하십시오”가 아니라 “Vendor 문서에는 kg, 중량 계산서에는 t가 사용되며 변환 적용 여부가 승인되지 않았음”이라고 말해야 한다. 멈춤이 문제 해결의 출발점이 되도록 설계해야 한다.

AI가 가장 잘해야 할 일: 변경의 원인을 설명하는 것

현업의 질문은 대개 “결과가 얼마인가”보다 “왜 달라졌는가”에 가깝다. 경하중량이 12.4톤 늘었을 때, 장비 세 대의 공급사 확정값 때문인지, 구조 물량 증가 때문인지, 마진 정책이 바뀌었기 때문인지 알아야 조치할 수 있다. 단순 합계 비교로는 부족하다.

AI는 계산 의존성 그래프와 문서 개정을 따라 변화의 기여도를 설명할 수 있다. 변경된 입력을 중요도순으로 정리하고, 영향을 받은 계산과 아직 반영되지 않은 문서를 보여준다. 이때 설명은 자연어로 읽히되, 각 문장은 클릭하면 실제 셀과 도면 영역으로 돌아가야 한다.

좋은 Copilot의 화면은 대화창보다 작업대에 가깝다

조선 설계 Copilot을 채팅창 하나로 만들면 맥락 전환이 늘어난다. 엔지니어는 답변을 읽은 뒤 다시 도면과 Excel을 열어 확인해야 하기 때문이다. 더 나은 화면은 도면·3D 객체, 계산서, 근거 패널과 변경 이력을 한 작업대에 배치한다.

질문을 입력하면 AI가 관련 객체와 계산서를 열고, 근거 영역을 하이라이트한다. 사용자는 입력값을 승인하거나 수정하고, 샌드박스 계산을 실행하며, 이전 개정과 비교한다. 승인 버튼은 모든 검증이 통과한 뒤에만 활성화된다. 대화는 인터페이스의 한 부분일 뿐, 중심은 연결된 증거와 작업 상태다.

정확도 하나로는 신뢰를 설명할 수 없다

제품 성능을 “정확도 95%”로만 말하면 실제 위험을 가린다. 장비 태그 인식, 표 구조 파싱, 단위 해석, 객체 매칭, 계산 결과, 기준 판정은 서로 다른 오류 특성을 가진다. 어떤 항목은 자동 승인 가능한 수준일 수 있지만, 어떤 항목은 한 번의 오류가 큰 영향을 줄 수 있어 반드시 사람이 검토해야 한다.

따라서 항목별 위험등급과 자동화 수준을 나눠야 한다. 저위험·고확신 항목은 자동 반영 후보가 될 수 있고, 고위험 항목은 AI가 아무리 확신해도 검토를 요구해야 한다. 검토자가 AI 제안을 수정한 기록은 다시 학습과 규칙 개선에 사용하되, 모델 버전과 평가 기준도 함께 관리해야 한다.

Verified Ship Calculation Workbench로 가는 길

첫 단계는 AI가 계산서를 설명하도록 만드는 일이 아니다. 원본 Excel을 실행하고 결과를 재현하는 기반, 객체와 셀의 의미 매핑, 출처·개정 관리가 먼저다. 그다음 문서와 모델에서 입력값을 자동 제안하고, 변경 영향과 근거를 설명하는 AI를 붙인다. 마지막 단계에서 제한된 수정과 승인 자동화를 추가할 수 있다.

AI는 선박을 대신 설계하지 않는다

선박 설계의 최종 책임은 엔지니어와 조직에 있다. AI가 그 책임을 대신할 수 있다는 주장은 현실적이지도, 바람직하지도 않다. 그러나 엔지니어가 매일 반복하는 검색, 대조, 추적과 설명의 부담은 크게 줄일 수 있다.

좋은 선박 AI는 답을 숨기지 않는다. 어떤 데이터가 사용되었고, 무엇이 바뀌었으며, 어느 계산과 기준이 영향을 받았는지 보여준다. 그리고 모를 때 멈춘다. 이 정도의 겸손과 엄격함이 갖춰질 때 AI는 조선소의 신뢰를 얻고 실제 설계 흐름 안으로 들어갈 수 있다.