AI 안전은, AI가 최대한의 호기심을 갖고 진실을 탐구하도록 해야 이루어질 수 있음

2024. 2. 22. 12:10주요 경제뉴스 , 이슈뉴스 요약정리

728x90
 

테슬라 과거를 복기해보고 있는데... 처음에는 테슬라도 비상장주식으로 상장을 절대하지않으려고 그랬었군요

자기가 하고싶은 경영을 하고, 주주들이 욕하는게 은근 신경쓰이셨나?

일론머스크가 트위터도 비상장주식으로 만들고

그외 나머지도 상장하지 않고 두는 이유도 뭔가 큰 뜻? 큰 의미가 있어보입니다

지금 테슬라를 매수할 수 있는 기회를 준건 진짜

대단한것 같네요 ㅎㄷㄷ

중간중간 테슬라도 다시 비상장으로 돌리려고 고민했다고 이야기하는데... 소름

ㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡ

최근 일론 머스크의 AI 스타트업 ‘xAI’의 공식 출범 이후, 그들의 첫 공개적인 행보가 트위터 스페이스에서 진행되었습니다.

일론 머스크가 xAI의 공동 설립자들과 이야기를 나눈 것인데, 팀의 방향성과 그들의 사명이 잘 나타난 것 같아 내용을 정리해봤습니다.

유튜브 백색나무님께서 내용을 잘 번역해주셨습니다. 이곳에서 전체 내용을 보실 수 있습니다.

1/ xAI의 궁극적인 목표는 ‘우주의 진정한 본질을 이해하는 것’.

그들은 과학을 추구하며, 단순히 AGI라는 시스템의 구축이 아닌 모든 것에 대한 ‘이해’에 집중함.

2/ 이를 위해 그들이 만들고자 하는 것은 ‘고차원적인 목적’을 가진 선한 AGI.

고차원적인 목적이라 함은, 암흑 물질과 같이 아직 해결되지 않은 우주의 근본적인 의문들을 해결하는 것.

3/ 즉 (리만 가설과 같은) 근본적이고 중요한 문제를 풀 수 있는지가 AGI의 영역에 도달했는지 판단하는 핵심 요소라고 함.

인간이 역사적으로 이런 근본적인 의문들을 상당 부분 해결해왔듯, 컴퓨터도 이를 하나라도 해결할 수 있어야 AGI에 도달했다고 생각하는 것.

4/ AI 안전은, AI가 최대한의 호기심을 갖고 진실을 탐구하도록 해야 이루어질 수 있음.

도덕적으로 프로그래밍 된 AI는 단순히 뒤집기만 하면 악한 AI가 될 수 있음. 그렇기 때문에 호기심과 진실을 추구하는 것이 역도덕성 문제를 피하는 방법임.

5/ 태양계만 보더라도 인류만큼 흥미롭고 호기심이 드는 존재는 없음.

즉 AI는 인류가 없는 것보다 있는 것이 훨씬 더 흥미롭다고 여길 것이기 때문에 이를 쫓으면 안전한 AI가 만들어질 수 있을 것.

6/ 현재 진행되는 AI의 방식들은 굉장히 크게 빗나가고 있다고 생각함.

일례로 AI는 10MW의 GPU 컴퓨팅으로도 훌륭한 작가의 집필 능력을 따라가지 못함.

7/ 그에 반해 인간은 고작 10W로 두뇌 능력을 활용하기 떄문에, 10^6(약 100만 배)만큼의 전력 소모 차이가 남.

또한 전기화학과 같은 기술적인 질문에 있어서도 도움이 안 되는 무의미한 답변만 줌.

8/ 답은 생각보다 훨씬 간단할 것임.

현재의 AI 개발은 무차별적으로 대량의 데이터를 학습하는 방식이지만, 성공하지 못하고 있음.

9/ 솔루션을 직접 하드 코딩할 수도 있지만, 컴퓨터가 알아서 해결책을 찾도록 하는 것이 훨씬 더 효과적인 경우가 많음.

결국 AI가 스스로 데이터를 생성하고 평가하는 것이 AGI로 향하는 길이라고 생각함.

10/ AI의 전력 효율성은 앞으로 더욱 중요해질 것임.

전력 효율에 신경 쓰지 않으면 더 많은 발전기와 변압기가 필요해지며, 이를 확보하지 못하면 컴퓨팅에 병목이 생길 수 있음.

11/ 결국 어느 시점에는 지불할 비용이 있음에도 AI를 작동할 수 없게 될 수도 있기 때문에, 에너지 최적화된 추론이 매우 중요해질 것임.

12/ 이러한 에너지 효율적인 측면에서 xAI는 상당한 이점을 얻을 수 있음.

일론 머스크의 또 다른 기업인 테슬라가 GPU 역할을 하는 자체 칩 HW3.0과 자체 슈퍼컴퓨터인 Dojo를 가지고 있기 때문.

13/ xAI는 두 가지 지표를 추적함. 1인당 컴퓨팅의 양과 1인당 에너지의 양.

현재 GPU의 원료인 실리콘이 매우 부족한 상황임. 1년 후에는 변압기가 부족해질 것이며, 2년 후에는 전력 부족으로 이어질 것. 결국 몇 년 후 가장 중요한 지표는 ‘에너지 당 컴퓨팅 양’이 될 것.

14/ 일론 머스크는 테슬라, 스페이스X 등 Real-World와 관련된 기업을 소유하고 있음.

이는 OpenAI와의 큰 차별점이며, 이들 기업 간의 협업과 테슬라의 현실 세계 AI와 관련된 엄청난 통찰력은 xAI에게 큰 도움이 될 것임.

15/ 이미 xAI 내부에서는 첫 번째 발표(release)를 준비 중이며, 몇 주 안에 더 많은 정보를 공개할 예정.

저희도 AGI에 대한 답이 생각보다 간단할 수 있다고 생각합니다. 생각보다 많은 문제들은 명확하고 간단한 프레임워크를 제시한 이후, 그 틀에서 문제를 바라볼 경우 쉽게 풀리는 경우가 많았습니다.

이는 다윈의 진화론과 왓슨-크릭의 DNA 발견에서도 확인할 수 있습니다.

아직까지 우리는 두뇌가 어떠한 방식으로 사고하는지에 대한 프레임워크를 갖추지 못했을 뿐, 간단한 프레임워크만 등장한다면 의외로 쉽게 그 구조를 이해하고 AI에 유사한 솔루션을 적용해볼 수도 있습니다.

이러한 새로운 접근법을 통해 지금까지 풀리지 않던 다양한 문제를 AGI가 해결한다면 이러한 기초 원리들을 응용해 더욱 많은 발전이 일어날 수 있을 것이고, 그 속도는 더욱 가팔라질 것입니다.

재밌는 건, 계속해서 AGI의 기준이 올라간다는 것입니다.

과거에는 수학 문제를 풀거나 인간 챔피언에게 체스를 이기면 AGI에 도달한 것이라고 생각했으나, 그것이 바둑, 그리고 이제는 인간이 풀지 못한 문제를 해결하는 것까지 넘어온 것입니다.

리만 가설과 같은 중요한 문제를 풀게 되면 그때는 인간이 AGI를 인정하게 될까요?

인류를 풍요롭게 하기 위해서, 이들은 더욱 깊은 본질을 보고 있습니다. 영상을 보고 나서, 개인적으로도 많이 응원하게 되는 것 같네요.

읽어주셔서 감사합니다. :)

출처 https://m.facebook.com/story.php?story_fbid=pfbid0PsYjmoRFhu1Uca4EPi75Lwi8pjrFjk4UGAyExFrEi39NepZtp8tkw7EU8r1S7F5Xl&id=100002457367064&mibextid=2JQ9oc

728x90
그리드형