생성형 AI를 우리는 감시·감독해내야만 한다

생성형 AI라는 말이 들린 지는 꽤 오랜 시간이 지났다. 이제는 꽤 올드한 표현이라고 할 수도 있을 것이다.

요즘 내가 살고 있는 산업 현장에서 AI는 너무나 당연한 도구가 되었다.

“AI한테 시키면 다 해줘”

이제는 어떻게 할지 망설이는 사람이 많이 사라졌다. 망설이고 걱정하는 사람이 있다면, 누군가가 나서서 조언한다.

“AI한테 시키면 다 해줘.”

이 한마디는 여러 의구심을 불러일으키지만, 한 번, 두 번 일을 맡겨보면 의구심은 어딘가로 버려지게 된다. 너무 잘 만들어주기 때문이다.

그 이후로는 보고서든 메일이든 AI에게 맡겨두고, 사람은 결과물을 나르는 역할만 담당하게 된다.

결과물을 나르기만 할 때 생기는 불협화음

이때 불협화음이 생겨나기 시작한다.

• 읽히지 않는 보고서가 전달된다.
• 서로 다른 이야기가 인과로 연결되어 있다.
• 그럴싸하지만 알맹이가 빠져 있다.

이런 문제들이 점점 입에 오르내리기 시작했다. 누군가는 “AI는 아직 완벽하지 않아”라고 말하며 그러면 안 된다고 한다.

나는 이것을 조금 더 구체적으로 정리해보려 한다.

“일”이라는 것은 사람을 위해, 사람에 의해 존재한다고 생각한다.

아무도 읽지 않던 .md 파일

한동안 “.md” 파일에 열광하던 시대가 있었다. (시대라기엔… 몇 달이지만.)

AI가 읽기 좋은 문서이기에, AI로 일할 때 필수라고 여겨지는 형식이었다. 그러나 곧바로 물음표가 따라왔다. 사람이 읽지 않는다는 문제였다.

(나조차도 md 파일을 처음 몇 줄 읽다가 ‘잘 썼겠지’ 하고 넘겨버린다. 읽기에는 너무 큰 노력을 요구한다.)

그래서 md 파일이 아니라 사람이 읽을 수 있는 형태로 산출물을 내놓는 방법에 대한 논의가 이어졌다.

생성물은 사람에게 유효해야 한다

AI가 만들어낸 생성물을 AI가 읽고 AI가 사용한다면, 아마 아무 문제가 되지 않을 것이다.

하지만 우리는 사람이 더 잘 살아가는 세상을 위해 일을 하고 있다. 그렇게 만들어진 생성물은 사람에게 유효해야 한다.

AI가 만든 생성물은 대부분 AI가 이해하기에 가장 좋은 방향을 향하고 있다. (당연하다. 인간은 아니지만 인간처럼 사고하려고 하니까.)

그래서 문제가 생기지 않으려면 우리는 계속해서 관찰해야 하고, 감독해내야 한다. 이것이 사람을 위한 생성물인지 걸러낼 수 있어야 한다.

처음 한두 번은 왜 잘되었냐고 묻는다면, 나는 나중에 버려버린 그 “의구심” 덕분이었다고 생각한다.