로컬 AI 앱은 하나도 만들기 전에 멈췄다

AI로 앱을 만드는 것과 AI가 들어간 앱을 만드는 것은 다른 일이었다. 기존 제작 공정에 로컬 언어 모델을 넣으면 서버 비용 없이 새 제품을 만들 수 있을지 검토했다. 결과는 출시가 아니라 중단이었다. 9월 2일 종료 문서에는 앱을 한 개도 만들지 않았다고 남아 있다.

기존 앱 공장의 절차를 가져오되 앱 폴더는 옮기지 않았다. 비교 기준으로 쓸 레지스트리만 가져왔다. 복사된 문서에 다른 공장의 출시 이력이 있다고 이 공장도 앱을 만든 것은 아니다.

비용 전제와 품질 사이에서

검토는 모델을 어디에 두고 처음 실행할 때 무엇을 받을지까지 갔다. 기록에서 고른 방향은 1B급 모델을 첫 실행에 한 번 내려받는 방식이었다. 다만 경로를 골랐다는 것과 실제 기기에서 쓸 만한 품질을 확인했다는 것은 달랐다.

이 공장의 전제는 운영비를 만들지 않는 것이었다. 그런데 작은 온디바이스 모델의 품질은 미지수였고, 유료 클라우드로 보완하면 그 전제와 충돌했다. 그 사이를 해결할 근거를 얻지 못해 개시하지 않기로 했다.

모든 로컬 모델이 쓸모없다는 결론은 아니다. 당시 선택한 제품 조건을 만족시키는지 입증하지 못했다는 뜻이다. 모델 성능 전반을 비교한 벤치마크도 아니다.

코드가 늘어나는 것만 진척으로 세면 이 프로젝트는 아무것도 남기지 않은 것처럼 보인다. 하지만 무엇이 해결돼야 다시 시작할 수 있는지는 남았다. 같은 계획을 다시 읽는 것으로는 부족하고, 전제를 바꾸거나 실제 품질을 보여줘야 한다.

다시 검토한다면 범용적인 AI 앱보다 아주 좁은 과제 하나부터 실제 기기에서 확인하려 한다. 출력 품질과 기다리는 시간을 먼저 보고 공정을 넓히는 것이다. 이것은 아직 실행한 실험이 아니라 중단 뒤 남겨둔 다음 질문이다.

---

← 이전 글: 앱과 서버를 따로 만들었더니 데이터 이름부터 달랐다 · 전체 목차 · 다음 글: 슬라임이 자꾸 사람처럼 나왔다 →