AI 비즈니스는 굉장히 높은 마진을 남길 것으로 예상됩니다만, 현실은 녹록치 않습니다. 실제로 AI를 이용해서 비즈스를 운영해보면, 오히려 일반적인 소프트웨어 비즈니스보다 마진은 적고, 운영비가 훨씬 더 많이 든다는 사실을 깨닫게 되고 충격을 받게 됩니다. 이번에 공유드리는 아티클에서도 일반적인 SaaS 비즈니스가 마진율 60-80%정도인데, AI비즈니스는 그보다 10-20% 더 낮은 마진율을 가진다고 말하고 있습니다. 이러한 추가적인 비용은 AI라는 것이 실제로는 일반적인 판매용 소프트웨어와는 다른 구석을 가지고 있기 때문입니다. 오늘 아티클은 그 점에 대해서 잘 말해주고 있습니다.
오늘 공유할 글은 a16z의 The New Business of AI (and How It’s Different From Traditional Software) 입니다. 저자는 안드레센 호로위츠에 계시는 VC분들입니다. 이 글은 4년전에 쓰여졌으니, 이쪽 업계의 속도를 생각하면 꽤나 예전의 글입니다. 하지만 여전히 많은 사람들이 모르고 있는 이야기를 잘 집어주고 있습니다. 결론만 말하자면 AI비즈니스는 기존의 소프트웨어 산업보다, 마치 빵집이나 미용실처럼, 1개를 더 팔기 위해 사람이 그만큼 더 움직여야 하는 ‘응접 서비스’적인 측면을 강하게 가지고 있다는 점입니다.
전문을 읽을 시간이 없으신 분들을 위해 간략히 정리해보자면 결국 4가지의 추가비용이 들게 됩니다.
1.
첫번째는 과도한 서버비용
a.
아주 예전의 소프트웨어 비즈니스는 CD나 디스크를 찍어서 판매하는 비즈니스 였고, 좀 더 넘어가서 구독 기반의 SaaS서비스라 하더라도 판매가격에 비하면 서버가격은 크게 문제가 안될 정도로 낮았습니다.
b.
하지만 AI비즈니스에서는 클라우드 안에서도 엄청나게 비싼 GPU를 사용해야 합니다. 더불어 인공지능 모델을 하나 훈련하여 굽기위해서는 굉장히 많은 머신을 빌리고, 대단히 많은 시간을 소요해야 합니다.
c.
더 슬픈 사실은 세상이 변하기 때문에 모델도 시간에 따라 업데이트 되어야 한다는 점입니다. 이 훈련은 1회성 비용이 아니라 정기적인 비용입니다.
d.
더불어 서비스를 공급하기 위해서, 머신러닝 모델이 수천, 수만번 추론하고 가동될 때마다 그 비싼 GPU들을 써야합니다. 보통의 SaaS서비스보다 운영비가 더 크게 발생합니다.
2.
Human in the loop
a.
인공지능 모델이 ‘학습’되기 위해서는, 컴퓨터에게 데이터와 적절한 정답지를 같이 공급해야 합니다. 이 정답지를 라벨링 하는데 상당한 인건비가 듭니다.
b.
우리가 만들어내는 인공지능의 결과물이 신뢰도가 아주 높지 않다면 (그리고 대부분 그렇습니다), 최종 결과물을 고객에게 전달하기 전에 사람이 ‘검토’해야 하는 경우가 필요합니다. 그런데 고객이 100군데라고 생각해보세요. 얼마나 많은 검토자가 필요해질까요?
3.
더 까다롭고 특이한 요구사항과 예측하기 힘든 시간비용이 듭니다.
a.
대부분의 고객들은 ‘AI가 모든 것을 해결할 수 있다’라고 믿는 측면이 있습니다. 물론 지식이 쌓일수록 적절한 기대를 가지게 되지만, 대체로 그렇지 않은 고객이 훨씬 많습니다.
b.
때문에 고객의 요구사항은 끊임없이 복잡해지고, 이 복잡함을 해결하기 위해서는 새 요구사항에 대한 ‘데이터’를 모아야 합니다. 시간이 걸립니다. 새 데이터를 기반으로 새 모델을 만들어야 합니다. 역시 시간이 걸립니다. 이를 검증해야 합니다. 역시 또 사람과 시간이 걸립니다.
c.
기존 소프트웨어 제품들 보다 1개의 기능을 덧붙이는데 더 많은 시간이 소요되고, 일반적으로 소프트웨어들보다 필요한데 걸리는 시간을 예측하기가 더 어렵습니다.
4.
기술적 해자를 두기가 쉽지 않습니다.
a.
AI기술은 생각보다 오픈된 환경에서 이루어지고 있습니다. 논의나 새로운 기술들이 공개된 공간에서 이루어지고 있다는 말은, 다시 말해 경쟁자도 비슷한 AI기술을 쉽게 획득할 수 있다는 뜻입니다.
b.
많은 회사들이 데이터 해자도 이야기하지만, 생각보다 데이터는 고객의 것인 경우가 많습니다. 우리가 쓰기가 쉽지 않습니다.
i.
원문의 후반부에서는 문제점에 대한 개괄이외에도 어떻게 해결하면 좋은가에 대한 이야기도 함께 하고 있습니다. 4년이나 지났지만, 이 해결책들 역시 여전히 유효하고 저도 꽤나 좋아합니다. 이것들에 대해서는 토론시간에 함께 이야기해보도록 합시다.