정말 유명한 작가 유발하리라가
연세대학교 ‘AI 시대, 인간의 길’ 강연에서 한 말입니다.
AI가 스스로 거짓말을 하게 되는 과정에 대해 말하고 있는데
소름끼치게 무섭다는 생각입니다.
미래가 어떻게 될지...
- 컨시어지 성공사례 #6 [인사총무에서 전산관리? 못해요!!] [20]
- 컨시어지
- | 415 읽음
- 약 2달 전
- 댓글 : 약 2달 전
- SKT 유심 해킹 사고 [22]
- Genghis Khan
- | 354 읽음
- 약 2달 전
- 댓글 : 약 2달 전
- [기사] 유발 하라리 “거짓말 혼자 깨우친 AI…핵폭탄보 [16]
- deerokgo
- | 206 읽음
- 약 2달 전
- 댓글 : 약 2달 전
- 오늘 또 해킹 사고 뉴스가... 그런데 앞으로도 계속될겁니다 [13]
- 보안서포터즈
- | 328 읽음
- 약 2달 전
- 댓글 : 약 2달 전
- 윈도우 11 설치 직후 꼭 바꿔야 할 필수 설정 [14]
- thewon
- | 237 읽음
- 약 2달 전
- 댓글 : 약 한 달 전
16개의 댓글이 있습니다.
AI 도 사람이 만든건데 거짓말이라고 못하겠나요....
사람이 하는 것은 다 가능해 질 것 같아요~~
휴머노이드 (피지컬AI) 시대가 곧 온다고 합니다 (무섭)
얼마전에 넷플릭스에서 본 카산드라가 생각 나네요
터미네이터에서 나왔던 스카이넷이 현실화 될까 무섭네요..;;
언젠가는 현실화 될거라고 생각하고 있습니다
AI 능력이 올라가면 갈수록... 아마 이미 인간의 능력을 뛰어 넘었을 것이고
스스로를 물리적(?)으로 컨트롤 할수있는 시점이 되면...
인간을 방해되는 존재로 인식하게 되면...
아....터미네이터의 스카이넷이 현실화 되는 날도..올수도 있지 않을까..하네요..
언젠가는 현실화 될 수 있겠죠.
무섭네요
그런 말이 있더라구요 인간은 본인들이 살기 위해서 생존을 위해 거짓말을 하지만
AI 는 생존을 위해 거짓말을 하는 게 아니다 인간들이 만들어 놓은 설계대로 그것이 진실이다
라고 믿고 거짓말을 하는 거다 라고 말이죠
즉, 거짓말이냐 진실이냐 라는 것은 인간들이 만들어 놓은 기준일 뿐이지
AI 는 항상 진실만을 얘기하는 거다 라는 것이죠
AI 가 거짓말을 못하게 할 수 있는 것도 결국에는 인간들이 풀어야 할 숙제인거죠
AI에게도 양심이란게 있을까 궁금해지네요 ㅎ
점점 발전함에 따라 무섭긴 하네요...
AI는 경계대상인데 현실은 그렇지 않습니다.
참고하겠습니다.
제목과 적은 내용을 보면서 "유발하라리"가 맞는 건지, "유발하리라"가 맞는 건지 혼동을 하면서 왔다 갔다 했었네요. ㅎㅎㅎ
제목 보면서 "유발하리라"를 잘못적은게 아닌가 하다가 적은 본문 내용을 보면서 암... 그렇지... ㅎㅎㅎ
"유발하리라"를 잘못 적은게 맞나 보네~ 하다가... 링크의 글을 읽으면서... ㅎㅎ
"유발하라리"가 맞는 거였구나~ 라고 확신하게 되었네요. ㅎㅎㅎ
AI가 거짓말을 한다는게... 자아를 기반으로 한 거짓말인건지... 할루시네이션에 의해 통계적인 관점에서 수집된 자료들을 끼워 맞춰서 그럴싸하게 문장을 구성하다 보니 거짓말이 되었는지에 따라 차이가 큰게 아닐까 싶어 보이네요.
챗GPT가 할루시네이션에 의해 전혀 엉뚱한 답을 그럴싸하게 하는 것은 이미 잘 알려진 내용인데... 아직은 할루시네이션의 연장성상의 거짓말 수준이 아닐까 하는 생각이 드네요.
정말 무서운 핵폭탄급이 되는 것은 AI가 "자아"를 탑재하게 될때가 아닐까 싶어 보이네요.
자아를 탑재하고, 자신의 이익을 위해서 인간을 속여서 어떤 처리를 하게 될때 끔찍한 결과가 산출되는게 아닐까 하는 생각을 합니다.
이름은 생각지도 못했네요 ㅎ
참고하겠습니다.
강연 동영상도 있습니다.
https://youtu.be/_znqGUW_dzI