발라지 스리니바산 - AI는 일신교가 아닌 다신교입니다

'Balaji Srinivasan' 구글 검색 결과

 

코인베이스의 전 CTO인 발라지 스리니바산의 글을 구독 중인 '비즈까페'라는 유튜브를 통해 알게 되었습니다.

그 내용이 공유할 만한 가치가 있다는 생각이 들어 공유해봅니다.

 

1. 단일한 AGI는 존재하지 않습니다. 여러 AGI가 존재합니다.

우리가 보는 인공지능은 한 가지 아주 강력한 모델만 있는 게 아니라, 여러 회사에서 만든 다양한 모델들이 공존하고 있습니다. 이 모델들이 비슷한 수준의 능력을 갖추고 있고, 어느 하나가 압도하고 있는 상황은 아닙니다.

앞으로도 한 가지 인공지능이 인간 세상을 완전히 지배하거나, 모든 것을 자기 뜻대로 만드는 그런 상황이 발생하지는 않을 것입니다.

 

2. 인공지능은 모든 비용(시간 포함)을 '프롬프트 작성'과 '검증' 쪽으로 옮겨가게 합니다.

오늘날 AI는 작업의 중간 과정(어떤 입력을 받아서 중간 결과를 만들어 내는 역할)만 수행할 뿐, 처음부터 끝까지 모든 과정을 완벽하게 처리하지는 못합니다. 그래서 비즈니스에서 드는 비용들은 AI가 중간 작업을 빠르게 처리하는 대신 사람이 AI에게 어떻게 지시할지와 AI가 낸 결과가 맞는지 확인하는 데 더 많이 쏠리게 될 것입니다.

 

3. AI는 '인공 지능(Artificial Intelligence)'보다 '확장된 지능(Amplified Intelligence)'에 가깝습니다.

오늘날의 AI는 진짜 독립적인 주체처럼 스스로 복잡한 목표를 설정하거나 결과를 제대로 검증하지 못합니다. 현재 나와 있는 AI들은 스스로 모든 것을 결정하지 못하므로, 결국 사용자가 직접 명령을 잘 내려야 하고, 결과가 맞는지 확인해야 하며, 여러 시스템을 잘 연결하는 데 많은 노력을 들여야 합니다.

결국 더 똑똑한 사용자가 더 똑똑한 AI를 다루게 되는 셈입니다. 그러므로 현재 AI는 '스스로 판단하는 지능'이라기보다는 '사람의 능력을 더 키워주는 지능'이라고 보는 게 더 정확합니다.

 

4. AI는 당신의 일자리를 빼앗는 것이 아니라, 어떤 일이든 할 수 있게 만들어 줍니다.

AI 덕분에 평범한 사람이 UX 디자이너나 SFX 애니메이터 같은 일을 어느 정도 할 수 있게 되지만, 그렇다고 해서 그 일을 아주 뛰어나게 잘할 수 있다는 뜻은 아닙니다. 여전히 전문적인 사람이 결과물을 다듬고 완성하는 과정이 필요하기 때문입니다.

 

5. AI는 당신의 일자리를 빼앗는 것이 아니라, 이전 AI의 자리를 빼앗습니다.

이미지 생성 분야에서는 Midjourney가 Stable Diffusion의 역할을 대신했고, 언어 모델 분야에서는 GPT-4가 GPT-3의 역할을 이어받았습니다. 한 번 AI가 작업 과정에 자리를 잡게 되면, 그 분야에서는 자연스럽게 비용과 사용량이 최신 AI 모델로 옮겨가게 됩니다. 즉, AI는 사람의 자리를 차지하는 게 아니라, 그 전 AI 모델의 자리를 대체하면서 점점 진화해 나가게 됩니다.

 

6. AI는 글자보다 시각적인 작업에 더 적합합니다.

AI는 백엔드 작업보다는 프론트엔드 작업에, 텍스트보다는 이미지나 영상 작업에 더 뛰어납니다. 사용자 인터페이스(UI)나 이미지는 사람이 눈으로 쉽게 확인할 수 있지만, AI가 생성한 방대한 텍스트나 코드의 경우에는 사람의 검증 비용이 매우 크기 때문입니다.

 

7. 킬러 AI는 이미 존재합니다. 바로 '드론'입니다.

모든 나라가 이 기술을 적극적으로 개발하고 있습니다. 따라서 우리가 걱정해야할 것은 이미지 생성기나 챗봇 같은 AI가 아니라 바로 이 살상용 드론입니다.

 

8. AI는 확률적인 반면, 암호화폐는 결정론적입니다.

그래서 암호화폐는 AI를 제약할 수 있습니다. 예를 들어, AI는 캡차를 뚫을 수는 있어도, 블록체인 상의 잔액을 조작하거나 위조할 수는 없습니다. 또 어떤 수학 문제는 AI가 풀 수 있지만, 암호학적 문제는 풀지 못합니다. 즉, 암호화폐는 AI가 할 수 없는 영역을 담당한다고 볼 수 있습니다. AI가 수많은 가짜를 만들어 내지만, 암호화폐들 덕분에 그것들이 다시 진짜가 될 수 있다는 것입니다.

 

9. AI는 중앙집중화되기보다 분산화되는 방향으로 나아가고 있습니다.

현재 수많은 AI 기업들이 존재하고 있고, 작은 팀도 적절한 도구를 활용하면 훨씬 더 많은 일을 할 수 있습니다. 게다가 고품질의 오픈소스 AI 모델들이 많이 등장하고 있기 때문에 AI 기술과 생태계가 여러 주체에 의해 다양하게 발전하며 분산되고 있는 상황입니다.

 

10. 최적의 AI 사용량은 100%가 아닙니다.

AI를 전혀 사용하지 않으면 일이 느려지고, 반대로 전부 AI로 작업하면 오히려 효율이 떨어지고 엉성해지기 때문입니다. 그래서 AI 사용의 최적 지점은 0%와 100% 사이 어딘가에 있습니다. 물론 정확한 비율은 상황에 따라 다르지만, 0%와 100% 모두 최적이 아니라고 생각하시는 것이 좋습니다.

이 개념은 경제학에서 세율과 세수의 관계를 나타내는 '래퍼 곡선(Laffer Curve)'과 비슷한 원리입니다. 세율을 너무 높여도, 반대로 너무 낮춰도 세수가 최대가 되지 않는 것처럼, AI도 너무 적게 혹은 너무 많이 쓰는 것 모두 바람직하지 않다는 뜻입니다.

 

 

오늘날의 AI는 '제한된 AI'입니다.

전체적으로 보았을 때, AI는 '전능한 AI'가 아니라 '제한된 AI' 모델이라고 할 수 있습니다.

- AI는 경제적으로 제한되어 있습니다. 모든 API 호출은 비용이 많이 들고, 여러 경쟁 모델이 존재하기 때문입니다.

- AI는 수학적으로 제한되어 있습니다. AI는 혼돈스럽고, 불안정한 문제나 암호학적인 방정식은 풀 수 없다는 것이 증명되어 있습니다.

- AI는 실질적으로 제한되어 있습니다. AI는 스스로 목표를 설정하거나 결과를 완벽하게 검증하지 못하며, 사람이 직접 명령을 내리고 그 결과를 확인해야 합니다. 또한 전체 프로세스를 끝까지 처리하지 않고 중간 단계만 수행할 수 있습니다.

- AI는 물리적으로 제한되어 있습니다. AI는 스스로 주변 상황이나 맥락을 인지하지 못하므로, 사람이 그 정보를 입력해줘야만 작동할 수 있습니다.

 

분명히, 미래에는 이런 한계들이 극복될 가능성이 있습니다. 예를 들어, AI의 직관적이고 확률적인 사고방식(시스템 1)과, 컴퓨터가 전통적으로 잘 해왔던 논리적이고 결정적인 사고방식(시스템 2)을 통합하는 연구가 진행 중입니다. 하지만 이것은 아직 해결되지 않은 연구 과제입니다.

 

 

 

참고 - 비즈까페

: https://blog.naver.com/bizucafe/223957612876

인공지능에 대한 10가지 생각 (발라지)

 

원문: https://balajis.com/p/ai-is-polytheistic-not-monotheistic

AI is polytheistic, not monotheistic

 

네이버 프리미엄 콘텐츠 - 발라지 스리니바산: 달러는 종말을 향해 가는가? 데이터로 진단

: https://naver.me/GeUYzLHq

발라지 스리니바산: 달러는 종말을 향해 가는가? 데이터로 진단