AI가 자동차·의료기기를 설계한다, 그 한계는?

자동차 리콜 한 건의 평균 비용은 수천억 원이다. 소프트웨어 버그는 패치로 고칠 수 있지만, 도로 위를 달리는 차량의 설계 결함은 그렇지 않다. 그런데 지금, 그 설계 과정에 AI가 들어오고 있다.

MIT 테크놀로지 리뷰가 제품 엔지니어링 조직 300곳을 대상으로 실시한 설문조사에서 10곳 중 9곳이 향후 1~2년 안에 AI 투자를 늘릴 계획이라고 답했다. 스마트폰 앱이 아니다. 자동차, 가전제품, 의료기기처럼 사람의 생명과 직결된 물리적 제품을 만드는 현장의 이야기다.

조심스러운 낙관주의: 왜 ‘폭발적 도입’이 아닌가

AI 투자를 늘리겠다는 비율은 압도적이지만, 그 속도는 의외로 조심스럽다. 응답자의 45%는 투자 증가 폭을 25% 이하로 계획했고, 약 3분의 1은 26~50% 수준을 목표로 했다. 투자를 두 배 이상 늘리겠다는 응답은 15%에 불과했다.

이 수치가 보여주는 것은 단순한 신중함이 아니다. 제품 엔지니어링의 특수성이 반영된 결과다. 소프트웨어 세계에서 AI 오류는 대부분 수정 가능하다. 하지만 물리적 제품은 다르다. 설계가 확정되어 생산 라인에 올라간 순간, 그 결정은 ‘롤백’할 수 없다. 결함이 있는 의료기기는 환자의 생명을 위협하고, 잘못 설계된 자동차 부품은 도로 위 사고로 이어진다.

이 때문에 엔지니어링 조직들은 범용 AI 도구 대신 신뢰 임계값이 명확히 구분된 계층형 AI 시스템을 채택하고 있다. 쉽게 말해, AI가 제안하더라도 인간이 반드시 검증하는 구조를 유지한다는 뜻이다.

지금 가장 많이 쓰는 AI: ‘시뮬레이션’과 ‘예측 분석’

그렇다면 실제로 어떤 AI 기능이 현장에서 쓰이고 있을까. 설문 응답자 과반수가 단기 투자 우선순위로 꼽은 두 가지는 예측 분석과 AI 기반 시뮬레이션·검증이었다.

광고

광고주 모집

[email protected]

광고

이 두 기능의 공통점은 ‘피드백 루프가 명확하다’는 것이다. AI가 내린 판단의 결과를 측정하고, 감사하고, 규제 승인을 받을 수 있다. 투자 대비 효과도 증명하기 쉽다. 반대로 말하면, 결과를 검증하기 어려운 AI 기능은 아직 현장에서 환영받지 못하고 있다는 의미이기도 하다.

현대자동차나 삼성전자 같은 국내 제조 대기업들도 이 흐름과 무관하지 않다. 현대차는 이미 가상 시뮬레이션 기반의 차량 충돌 테스트에 AI를 적용하고 있으며, 삼성전자는 반도체 공정 불량 예측에 AI를 활용 중이다. 글로벌 트렌드가 국내 현장에서도 같은 방식으로 전개되고 있는 셈이다.

AI가 잘하는 것, 인간이 해야 하는 것

보고서가 강조하는 핵심 중 하나는 명시적 인간 책임(explicit human accountability)의 필요성이다. AI가 설계 과정에 깊이 들어올수록, ‘이 결정의 책임자는 누구인가’라는 질문이 더 중요해진다.

이는 단순한 철학적 논의가 아니다. 규제의 문제다. 미국 FDA는 AI가 관여한 의료기기 설계에 대해 인간 검토자의 서명을 요구한다. 유럽의 AI법(EU AI Act)은 고위험 AI 시스템에 인간 감독을 의무화했다. 한국에서도 식품의약품안전처가 AI 기반 의료기기 허가 기준을 강화하는 방향으로 움직이고 있다.

AI 도구를 만드는 기업 입장에서는 이 규제 환경이 진입 장벽이자 기회다. 규제를 충족하는 ‘감사 가능한 AI’를 먼저 만드는 기업이 제품 엔지니어링 시장을 선점할 가능성이 높다.

무엇을 위해 AI를 쓰는가: 지속가능성과 품질이 1순위

흥미로운 발견도 있다. AI 도입의 목표로 엔지니어링 리더들이 가장 높게 평가한 항목은 지속가능성과 제품 품질이었다. 시장 출시 속도나 비용 절감은 상대적으로 낮은 순위를 기록했다.

이는 AI 도입의 동기가 단순한 효율화가 아님을 시사한다. 고객, 규제 기관, 투자자 모두가 볼 수 있는 지표—불량률, 탄소 배출 프로파일—가 우선순위에 오른 것이다. 내부 엔지니어링 대시보드의 숫자가 아니라, 실제 세계의 신호가 기준이 된다는 의미다.

한국 맥락에서 보면, 이는 현대차의 전기차 품질 논란이나 LG전자의 가전 불량 이슈처럼 소비자 신뢰와 직결된 문제다. AI가 불량률을 낮추고 에너지 효율을 높이는 데 실질적으로 기여한다면, 이는 주가와 브랜드 가치에도 영향을 미친다.