← Season 2

SEASON 2 · EP 01 OF 06

AI가 할 수 있다는 것보다, 계속 믿고 쓸 수 있게 만드는 게 더 어려웠다

AI를 실제 Engineering 업무에 적용한 뒤 보이기 시작한 Trust와 Change의 문제

김용연Season 2Episode 01
AI가 할 수 있다는 것보다, 계속 믿고 쓸 수 있게 만드는 게 더 어려웠다 — Season 2 key visual

처음의 질문은 AI가 이 일을 할 수 있는가였다

Season 1을 마친 뒤에도 SoC Engineering 업무에 AI를 계속 적용해 봤다.
처음에는 질문이 비교적 단순했다.
AI가 Spec을 읽을 수 있을까.
Source를 비교할 수 있을까.
Test나 Result를 정리하고, 여러 Step을 이어서 수행할 수 있을까.

생각보다 가능성은 빠르게 커졌다.
새로운 Model과 Agent 방식, Tool이 계속 등장했고, AI가 할 수 있는 일도 빠르게 늘어났다.
처음에는 이것이 가장 중요한 변화처럼 보였다.

그런데 실제 업무에 가까워질수록 질문이 달라지기 시작했다.
문제는 AI가 일을 못해서 생긴 것이 아니었다.
오히려 할 수 있는 일이 늘어나면서 그 다음 문제가 더 잘 보이기 시작했다.

결과가 나오는 것과 믿고 다음 단계로 가는 것은 달랐다

예를 들어 AI가 Source를 읽고 비교해서 결과를 만들었다고 해보자.
그 결과만 보고 다음 Engineering Decision으로 넘어갈 수 있을까.

어떤 Source version을 사용했는지,
어떤 Configuration과 Condition에서 확인했는지,
필요한 Check가 실제로 수행됐는지,
무엇은 확인하지 않았는지를 알아야 다른 Engineer도 그 결과를 다음 판단에 사용할 수 있다.

결과가 나왔다는 것과 그 결과를 믿고 다음 단계로 갈 수 있다는 것은 다른 일이었다.

AI가 관여했다고 모든 Result가 같은 성격은 아니었다

실제로 만든 Workflow 안에는 AI의 해석과 Script·Checker·EDA Tool의 실행이 함께 있었다.
AI Agent가 Script를 호출했더라도 Tool이 만든 Result와 AI가 해석해 만든 Candidate나 Recommendation은 같은 종류의 결과가 아니었다.

이 차이를 구분하지 않으면 무엇을 믿고 다음 단계로 갈 수 있는지 설명하기 어려웠다.
여기서는 그 사실 하나면 충분했다.
더 중요한 문제는 이 Workflow를 실제로 계속 사용하면 반드시 바꾸고 싶은 부분이 생긴다는 점이었다.

실제로 쓰기 시작하면 반드시 바꾸고 싶은 부분이 생겼다

처음 만든 Workflow가 아무리 잘 동작해도 실제로 사용하다 보면 불편한 부분이 보인다.
Source 연결을 바꾸고 싶을 수도 있고,
Review 순서를 바꾸고 싶을 수도 있고,
새로운 Rule을 추가하고 싶을 수도 있다.

Project Requirement도 바뀌고, Tool도 바뀌고, Model이나 Service Provider도 바뀔 수 있다.

직접 만든 구조라면 비교적 자유롭게 수정할 수 있다.
하지만 자유롭게 수정하는 것만으로는 충분하지 않았다.
작은 수정이 쌓일수록 무엇이 Current인지 불명확해질 수 있고, 다른 Step이나 다른 Project에 예상하지 못한 영향을 줄 수도 있었다.

반대로 외부에서 구축한 Workflow라면 작은 변경 하나에도 요청과 영향 검토, 일정, 비용, 재검증이 필요할 수 있다.
내부 Engineer가 어느 순간부터 왜 이렇게 되어 있는지를 이해하기보다, 이 부분은 외부에 요청해야 한다고 생각하기 시작하면 변경의 주도권도 조금씩 조직 밖으로 이동할 수 있다.

그래서 Vendor Lock-in이라는 말을 먼저 떠올리기보다 더 현실적인 질문을 하게 됐다.
더 좋은 Model이나 Tool이 나왔을 때 우리는 그것을 Engineering 관점에서 선택할 수 있는가.
아니면 현재 구조에서 바꾸기 쉬운 것만 선택하게 되는가.

새로운 기술을 빨리 쓰려면, 바뀌지 않아야 할 것도 정해야 했다

새로운 AI 기술을 빠르게 받아들이고 싶을수록 오히려 실행 수단과 함께 사라져서는 안 되는 것이 무엇인지 먼저 정해야 했다.
어떤 Source를 기준으로 보는지,
어떤 Evidence가 있어야 다음 단계로 갈 수 있는지,
과거 Decision의 이유와 History를 어떻게 남길지는 실행 환경이 바뀐다고 함께 사라져서는 안 됐다.

질문은 Capability에서 Trust와 Change로 이동했다

처음의 질문은 AI가 이 일을 할 수 있는가였다.
그 다음 질문은 이 결과를 왜 믿을 수 있는가가 됐다.
그리고 실제로 계속 사용하려 하자, 필요할 때 바꾸면서도 그 신뢰를 유지할 수 있는가라는 질문으로 이어졌다.

돌아가는 시스템을 만드는 것만으로는 충분하지 않았다.
조직이 필요할 때 스스로 바꾸고, 무엇이 영향을 받았는지 다시 확인할 수 있는 상태로 남기는 일이 더 어려웠다.

그리고 여기서 다음 질문이 생겼다.
AI와 System이 반복적인 준비를 더 많이 맡는다면 Engineer는 어디에 시간을 써야 할까.