제목과 썸네일이 보여주는 미래
요즘 AI에 관한 YouTube 영상이나 LinkedIn 게시물, 기사의 제목들을 보다 보면 놀라움과 피로감을 동시에 느낄 때가 있다.
누군가는 이미 AGI의 시대가 시작되었다고 이야기한다. 인간이 오랫동안 해결하지 못한 수학 난제를 AI가 풀었다는 소식이 들리고, 새로운 모델이 이전보다 수백 배 뛰어나다는 발표가 등장한다. 어떤 기업은 자사의 AI 기술로 개발 생산성이 몇 배 향상되었다고 이야기한다.
그런데 얼마 지나지 않아 정반대의 소식도 들려온다. AI가 통제를 벗어났다는 이야기, Agent가 수많은 Token을 소비하면서도 제대로 된 결과를 만들지 못했다는 경험담, AI가 기대만큼 도움이 되지 않았다는 또 다른 주장까지.
하루는 AI가 인간의 능력을 넘어섰다는 이야기를 듣고, 다음 날은 AI를 믿어서는 안 된다는 이야기를 듣는다.
이런 제목들은 호기심을 자극한다. 실제로 놀라운 기술적 성과도 많다. 하지만 내용을 자세히 읽어 보면 처음 제목에서 받은 인상과 상당히 다른 경우가 있다.
수백 배 빠르다는 기술에는 특정한 작업과 비교 조건이 있다. AI가 해결했다는 수학 문제도 결과가 무엇인지, 어떤 검증이 이루어졌는지 살펴봐야 한다. 생산성이 크게 향상되었다는 발표 역시 어떤 업무에서 무엇을 측정했는지 확인해야 의미를 이해할 수 있다.
반대로 AI가 위험한 행동을 했다는 소식도 어떤 실험 환경과 조건에서 발생했는지를 살펴봐야 한다.
기술적 성과나 위험이 중요하지 않다는 뜻은 아니다. 다만 ‘무엇이 일어났는가’와 ‘그것이 어떤 의미인가’ 사이에는 상당한 거리가 있을 수 있다. 바로 그 거리가 자극적인 제목과 썸네일에서는 자주 사라진다.
새로운 기능은 누구에게 필요한가
이러한 풍경은 AI 산업에서 처음 나타난 것은 아니다.
우리는 스마트폰, 자동차, 가전제품, Software의 발전 과정에서도 비슷한 모습을 보아 왔다. 새로운 제품이 나올 때마다 기능이 추가되고 성능은 개선된다. 이러한 기술 중에는 실제로 생활과 업무를 크게 바꾼 것도 많다.
그러나 새롭게 추가된 모든 기능을 사용하는 것은 아니다. 구매할 때 관심을 가졌던 기능이 실제로는 거의 필요하지 않을 수도 있고, 새로운 Software를 사용하면서도 익숙한 몇 가지 기능만 계속 사용하는 경우도 있다.
기술을 만드는 사람에게는 새로운 기능이 중요한 성과일 수 있다. 하지만 그 기술을 사용하는 사람에게도 반드시 같은 의미인 것은 아니다.
나는 최근 AI의 발전을 지켜보면서 이 익숙한 차이를 다시 생각하게 되었다. 새로운 모델이나 Agent가 등장하면 무엇을 할 수 있는지 궁금해진다. 직접 사용해 보고 싶은 마음도 생긴다.
그런데 어느 순간부터 기술에 대한 호기심과 그것을 따라가지 못하면 뒤처질 것 같은 불안이 함께 느껴지기 시작했다. 새로운 기술을 사용해 보고 싶다는 생각과, 사용하지 않으면 안 된다는 생각은 분명 다르다.
더 조심해야 할 것은 이미 어떤 기술을 선택한 뒤에 나타나는 심리일지도 모른다. 그 선택이 옳았음을 보여주는 정보에는 관심이 가고, 기대했던 성과가 나오지 않으면 아직 제대로 사용하지 못했기 때문이라고 생각하게 된다.
물론 실제로 사용 방법을 개선하면 문제가 해결될 수 있다. 하지만 그 가능성을 믿는 것과 지금까지의 선택을 다시 평가하지 않는 것은 다르다.
개인의 확신이 조직의 방향이 될 때
개인이 이러한 판단을 잘못하면 자신의 시간과 비용을 낭비할 수 있다. 그런데 기업의 경영진이 같은 방식으로 판단한다면 어떨까. 그때부터는 개인의 선택을 넘어 조직 전체가 영향을 받을 수 있다는 생각이 든다.
Engineer가 새로운 기술의 장점을 과대평가하면 그 영향은 우선 자신이 수행하는 업무에 나타난다. 물론 프로젝트 전체에도 영향을 줄 수 있고, 검토와 승인 절차가 언제나 오류를 걸러 주는 것도 아니다.
반면 경영진의 판단은 예산이 되고, 조직의 목표가 되고, 때로는 구성원 전체가 따라야 할 업무 방식이 된다. 한 사람의 확신이 조직 전체가 따라야 할 목표로 바뀔 수 있는 것이다.
최근 AI에 대한 선언적인 주장들을 접할 때 내가 특히 우려하는 부분도 여기에 있다.
경쟁사들이 AI를 도입하고 있다는 이유만으로, 또는 유명 기업의 발표에서 놀라운 성과를 보았다는 이유만으로 충분한 검토 없이 큰 투자를 결정한다고 생각해 보자.
새로운 GPU와 서버를 도입하고, AI Platform과 각종 Tool의 라이선스를 구매한다. 필요하다면 전담 조직도 만든다.
물론 이러한 투자가 실제로 필요한 기업도 있다. 문제는 그 회사가 해결해야 할 문제가 무엇인지, 왜 지금 그 정도의 투자가 필요한지 충분히 확인하지 않은 경우다.
“그래서 얼마나 좋아졌습니까?”
투자를 결정한 뒤에는 자연스럽게 다음 질문이 등장한다. “그래서 얼마나 좋아졌습니까?”
당연한 질문이다. 그런데 투자하기 전에 성과를 판단할 기준을 정하지 않았다면 상황이 복잡해진다.
어떤 업무가 얼마나 개선되어야 하는지, 품질과 비용은 어떻게 비교할지, 기대했던 결과가 나오지 않으면 어떤 결정을 할지 합의하지 않은 상태이기 때문이다.
하지만 투자에 대한 성과는 보고해야 한다. 이때부터 조직은 실제 성과를 확인하는 일보다 성과를 보여줄 수 있는 방법을 찾는 데 더 많은 관심을 기울이게 될 위험이 있다.
AI를 활용해 작성한 Code가 얼마나 늘었는지, 문서를 몇 개 만들었는지, 얼마나 많은 직원이 AI를 사용했는지, Agent가 얼마나 많은 작업을 처리했는지. 이러한 숫자들은 비교적 쉽게 얻을 수 있다.
그 자체로 쓸모없는 지표는 아니다. 새로운 기술이 실제로 사용되고 있는지 살펴보는 데 도움이 될 수도 있다. 하지만 이런 지표가 곧 생산성 향상을 의미하는 것은 아니다.
숫자는 사실인데 결론이 틀릴 때
AI가 작성한 Code가 많아졌더라도 Review와 Debug에 더 많은 시간이 들었을 수 있다. 생성한 Test Plan이 많아졌더라도 중요한 요구사항이 빠졌을 수 있다. 문서를 빠르게 만들었더라도 다른 Engineer가 그 내용을 다시 확인하고 수정하는 데 상당한 시간을 사용했을 수도 있다.
겉으로 보이는 산출물은 증가했지만 실제로 완료된 업무는 크게 달라지지 않았을 가능성도 있다.
심지어 보고되는 숫자가 모두 사실이어도 문제는 발생할 수 있다.
숫자가 거짓일 필요는 없다. 잘못된 숫자를 성과라고 부르는 것만으로도 충분히 잘못된 판단에 도달할 수 있다.
조직이 이런 지표를 생산성의 증거로 받아들이기 시작하면 또 다른 변화가 나타날 수 있다. 구성원들은 회사가 중요하게 여기는 숫자를 높이는 방향으로 행동하게 된다.
AI를 사용해야 한다는 요구가 강해질수록, AI를 사용하지 않는 것이 더 효율적인 업무에서조차 굳이 AI를 활용해야 한다고 느낄 수 있다. 더 많은 결과물을 만들어 내는 일이 실제로 해결해야 할 문제를 끝내는 일보다 중요해질 수도 있다.
그리고 그 과정에서 새롭게 발생한 검토와 재작업의 비용은 다른 사람이나 다른 조직의 업무로 넘어간다. 보고서에는 생산성이 높아졌다고 기록되지만 현장에서는 일이 더 복잡해질 수 있는 것이다.
잘못된 결정을 수정할 수 없는 조직
여기에서 내가 가장 우려하는 악순환이 시작된다.
이미 큰 투자가 이루어졌다. 경영진은 투자 성과를 기대하고, 담당 조직은 그 기대에 부응해야 한다. 그러다 보면 성과를 보여주기 쉬운 지표가 선택되고, 불편한 결과나 추가 비용은 상대적으로 주목받지 못할 수 있다.
긍정적인 보고를 받은 경영진은 투자 방향이 옳았다는 확신을 강화한다. 그리고 더 많은 부서에 기술을 적용하거나 추가 투자를 결정한다.
하지만 실제 효과가 충분히 검증되지 않은 상태에서 도입 범위만 확대하면 처음의 문제가 더 커질 수 있다.
더욱 심각한 것은 이 과정에서 조직의 솔직한 판단이 어려워질 수 있다는 점이다.
어떤 Engineer가 “이 업무는 AI를 사용하지 않는 편이 더 효율적입니다”라고 이야기한다고 생각해 보자. 또 다른 Engineer는 “생성 속도는 좋아졌지만 검증과 재작업을 포함하면 전체 일정에는 큰 변화가 없습니다”라고 보고할 수도 있다.
이러한 의견은 무시할 수 없는 검토의 출발점이다. 그 의견이 사실인지 확인하려면 비교 조건과 근거가 더 필요할 수도 있다. 하지만 경영진이 AI 투자에 이미 강한 확신을 가지고 있다면, 그 문제 제기 자체를 검토 결과의 단서가 아니라 변화에 대한 저항처럼 받아들일 위험이 있다.
그 순간 조직에는 좋지 않은 신호가 전달된다. 실제 문제를 발견하는 것보다 긍정적인 결과를 보고하는 편이 안전하다는 신호다.
그러면 문제를 제기하는 사람은 줄어들고, 보고되는 성과는 점점 좋아질 수 있다. 현실이 개선되고 있어서가 아니라, 현실을 전달하는 방식이 달라졌기 때문일 수도 있다.
나는 이것이 단순한 투자 실패보다 더 위험하다고 생각한다. 투자 실패는 원인을 찾고 수정할 수 있다. 하지만 실패를 실패라고 말하기 어려워진 조직은 다음 투자에서도 같은 판단을 반복할 수 있다.
잘못된 투자보다 더 위험한 것은, 잘못된 투자를 수정할 수 있는 조직의 능력까지 잃는 것이다.
SoC 개발에서도 같은 질문을 해볼 수 있다
Fabless나 Design House의 입장에서 생각하면 이러한 위험은 더욱 구체적으로 다가온다.
SoC 개발에서 새로운 Tool을 도입하는 일은 단순히 Software를 구매하는 것과 다르다. 설계 방법론이 바뀔 수 있고, 기존 검증 환경과의 연동이 필요하다. Engineer들은 새로운 환경을 익혀야 하며, 기존에 확보한 설계와 검증 결과의 신뢰성을 유지해야 한다.
AI가 이런 업무를 실질적으로 개선할 수 있다면 투자할 이유는 충분하다. 반대로 AI를 도입했다는 사실 자체를 성과로 보기 시작하면 중요한 것을 놓칠 수 있다.
가령 AI가 RTL이나 Testbench를 빠르게 생성하는 데 성공했다고 생각해 보자. 그것이 좋은 출발점일 수는 있다. 하지만 고객이 원하는 것은 생성한 Code의 양이 아니다.
요구사항을 만족하고, 필요한 검증을 통과하며, 실제 제품 개발에 사용할 수 있는 결과다. 더 나아가 기업의 입장에서는 프로젝트 납기와 품질을 지키면서 수익성을 확보해야 한다.
그런데 경영진이 Code 생성 속도를 전체 개발 생산성으로 오해한 상태에서 일정 단축이나 인력 절감부터 요구한다면 어떻게 될까.
현장에서는 줄어든 작성 시간보다 더 많은 검토와 검증 부담을 감당해야 할 수도 있다. 일정은 더 촉박해졌는데 확인해야 할 것은 줄어들지 않는 상황도 생각할 수 있다.
더 많은 작업을 자동화했다는 보고와 달리, 중요한 Engineering 판단은 여전히 소수의 숙련된 Engineer에게 집중될 수도 있다.
이러한 상황은 AI 기술의 실패라고만 할 수 없다. AI가 실제로 해결할 수 있는 문제와 기업이 AI에 기대한 결과를 혼동한 의사결정의 실패일 수도 있다.
그런데 조직이 이 차이를 인정하지 못하면 AI 도입이 오히려 새로운 부담을 만들어 낼 수 있다. 그리고 그 부담은 결국 Engineer와 고객, 기업 모두에게 돌아간다.
비판적으로 사용한다는 것
나는 AI 기술의 발전을 긍정적으로 바라보고 있다. 새로운 Model과 Agent의 발전은 흥미롭고, 실제 Engineering 업무를 개선할 가능성도 크다고 생각한다. AI에 대한 적극적인 투자 역시 필요할 수 있다.
하지만 기술이 중요할수록 도입 판단의 무게도 커진다. 자극적인 제목이나 성공적인 Demo, 경쟁사의 투자 규모를 볼 때마다 나는 그 수치가 우리 조직의 문제와 어떤 관계가 있는지 되묻게 된다.
그 결정이 한 사람의 취향이나 비용 지출로 끝나지 않기 때문이다.
내가 바라는 것은 한 번의 확신이 조직 전체의 결론이 되기보다, 우리 회사가 겪는 문제와 새로운 기술의 효과를 현장의 반론까지 포함해 다시 판단할 수 있는 환경이다.
때로는 과감하게 투자할 필요가 있다. 때로는 시도했던 기술이 기대에 미치지 못했음을 인정하고 방향을 수정할 수도 있어야 한다. 무엇보다 투자한 기술의 문제점을 이야기하는 Engineer의 의견이 불편하더라도 들을 수 있어야 한다.
AI의 성과를 인정하는 것과 한계를 인정하는 것은 모순되지 않는다. 좋은 결과를 만들어 내는 기술이 있다면 적극적으로 사용하고, 그렇지 않은 곳에서는 사용하지 않을 자유도 있어야 한다.
이러한 판단이 가능한 조직에서야 새로운 기술이 진정한 경쟁력이 될 수 있을 것이다.
최근 AI를 둘러싼 수많은 선언과 전망을 접하면서 나는 두 가지 생각을 특히 경계하게 되었다.
AI를 사용하지 않으면 기업 경쟁력을 잃고 살아남을 수 없다는 두려움.
그리고 AI를 사용하기만 하면 품질이 높아지고 개발기간과 필요한 인력이 줄어들 것이라는 기대.
둘 다 사실이 될 수 있다. 하지만 어느 것도 모든 기업에 적용되는 법칙은 아니다.
AI를 사용하지 않는 것이 위험할 수도 있지만, 잘못된 확신으로 AI를 도입하는 것 역시 위험할 수 있다.
확신이 틀릴 수 있다는 사실보다, 그 확신을 다시 검토할 수 없게 되는 상황이 더 걱정스럽다.
우리가 정말 경계해야 할 것은 기술에 뒤처지는 일만이 아닐 것이다. 뒤처질지도 모른다는 두려움 때문에 스스로 판단하는 능력을 포기하는 일이다.
AI를 얼마나 빨리 도입했는가보다, 왜 도입했고 무엇이 실제로 달라졌는지를 설명할 수 있어야 한다.
그리고 그 질문에 답하려면 한 가지를 더 생각해 봐야 한다.
우리는 AI로 더 많은 일을 하게 된 것을 성과라고 부르는가, 아니면 실제로 이루려던 것에 가까워졌을 때 성과라고 부르는가?

