|
:: 게시판
:: 이전 게시판
|
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
통합규정 1.3 이용안내 인용"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
17/05/04 08:48
사실 매트릭스에서 기계들의 목적은 인류를 매트릭스에 가둬 낙원속에 살게 하면서 보존하고자 함이었고, 전기 생산목적은 사실상 없다고 보는게 맞죠...
애초에 그 정도 과학기술이면 핵융합같은것도 가능할테니까요
17/05/03 12:17
멍청한 인간놈들도 주변 자연환경이나 동물들 함부로 죽이지 말아야 한다고 생각하고 있는 판인데
(사실 이것도 인간의 본성이 아니라 일종의 학습된 문화, 그것도 극히 최근에 학습된 문화라고 생각합니다.) AI님이 인권존중을 안하실 리가 없죠. 충성충성충성.
17/05/03 12:22
뜬금없지만, 댓글보면서 새삼 깨닫는게 매트릭스가 진짜 엄청난 영화였던것같은데
아직 안봐봤는데 요즘에도 볼만한가요? 전편 다 봐야하려나요 흐흐
17/05/03 16:38
재미만 생각하면 1편이면 끝이고요. 주제의식과 여기에 담긴 인간에 대한 철학까지 보려면 3편까지 보셔야죠. 전 3편까지 보는걸 추천 드립니다. 1편은 그냥 인트로 수준이라서...1편을 보면 다 봤다는건 그냥 액션영화를 기준으로 삼을 경우죠.
17/05/03 18:04
엥 그런가요 저도 위에 ArcanumToss 님처럼 1편이 철학물 2,3편이 액션물이라고 생각해서요
우리는 꿈을 꾸고 있는 것일지도 모른다 라는 철학적 메세지를 던지고 네오가 그걸 깨닫게 되는게 1편인데 2,3편은 깨달은 네오+일행과 시온이 기계들과 '이렇게 저렇게 싸워 이겼다' 라는 내용 뿐 그 이상 이하도 없다고 생각했습니다. 어찌보면 네오가 뒤로 총알 피하는 장면, 트리니티가 점프킥하는 장면 이런게 유명해서 1편이 액션물인가 싶은데 2편에서 엄청나게 많은 스미스 나오고 3편에서 전쟁하고 하는거 보면 액션은 2,3편이 더 큰 편이긴 하죠
17/05/04 10:34
철학물로 정점은 2,3편입니다. 괜히 철학자들이 극찬한게 아니죠.
저도 처음 접할때는 1편이 철학물 2,3편이 액션물이라고 생각했고 보통 대중들의 생각도 비슷한데 보면 볼수록 철학물로 정점은 2,3편입니다. dvd 출시판 코멘터리도 보면 영화 비평가들은 1편이 철학물같다고 하고 2,3편은 평가 절하했고 철학가들은 오히려 2,3편이 철학물로 높이 평가하죠. 아키텍쳐와 에러코드 등이 어떻게 삽입되고 풀어나가는지 보면 사실 전율이 일정도죠.
17/05/03 12:26
이 문제와 관련해서 좋은 칼럼이 있습니다.
https://coolspeed.wordpress.com/2016/01/03/the_ai_revolution_1_korean/
17/05/03 17:41
사실은 링크를 올리면서 내용도 요약하고 싶었는데 길어서 요약이 잘 안 됩니다... 그래도 중요한 내용만 정리해보면
1. (우리가 일반적으로 인공지능이라고 생각하는) 강인공지능이 만들어지는 순간 순식간에 수십만 IQ를 가진 초인공지능으로 도달할 것이다. 2. 초인공지능은 도덕 무관(amoral)이며 모든 노력을 다하여 자신에게 설정된 목표를 위해 힘쓸 것이다. 이것이 바로 인공지능이 위험한 원인이다. 3. 초인공지능이 출현하기만 하면 그것을 통제하려는 인류의 그 어떤 노력도 가소로울 것이다. 4. 초인공지능이 출현하면 인류는 영생을 얻거나 멸종할 것이다. 5. 인공지능 기술 혁신에 투자되는 돈이 인공지능 안전 연구에 투자되는 돈보다 훨씬 많아서 비관적이다. 결론 : 우리는 인공지능의 위험성을 인식하고 조금 천천히 가야 한다!
17/05/04 14:08
글을 올려주신분이 잘 요약해주셨지만, 몇 가지 흥미로웠던 보충설명을 추가해보자면..
강인공지능은 인간정도의 수행능력을 갖춘 인공지능을 뜻하고요, 인간의 뇌에 비해서 한계가 없는 점들이 많기 때문에 (뇌의 정보전달 속도는 120m/s이지만 인공지능은 광속이다, 기억능력이 정확하다, 축척할 수 있는 데이터양이 훨씬 많다 등) 강인공지능이 개발되는 순간 초인공지능까지 도달하는 것은 시간문제이며, 그 소요시간도 20년 정도로 예상된다고 합니다. 그 지능의 발전속도를 지수적 그래프로 설명합니다. 또한 강인공지능이 나타나는 것도 거의 대부분 과학자들이 그 시기가 언제일지를 추측할 뿐, 발생할 것이라는 생각에는 의심이 없어보입니다. 초인공지능이 도래했을 때, 그 미래를 긍정적으로 예상하는 부류(지구상에 존재했던 모든 존재들이 죽음을 맞이하듯, 종에 있어서도 멸종이 그 역할을 했지만, 처음으로 죽음과 멸종을 피할 수 있는 종이 될 수 있을 것이다)와 그 반대의 부류가 있으며,모두 인공지능의 위험을 인식하고 천천히 나아가면서 많은 가능성을 실험해봐야 한다고 합니다. 처음 인공지능을 개발한 세력의 성향도 중요합니다. 악한 세력에게서 처음으로 강인공지능이 개발이 되었을 때 발생하게 될 문제는, 악한 세력에 의해 세상이 통제될 것이라는 점보다는 충분히 실험을 해보거나 고려해보지않고 인공지능이 세상에 놓일 것이라는 점이 더 위험하다고 판단된다고 합니다.
17/05/03 12:27
"그래서 제 생각에 인공지능이 극한까지 고도화된다면 그냥 인간을 방치하고 지들끼리 알아서 다 할거 같습니다. 인간은 그 옆에서 콩고물이나 좀 주워먹고.. 그러다보면 지능이나 신체능력이 퇴화하긴 하겠네요."
이게 정복이죠...
17/05/03 12:31
정복에 대한 다른 관점인거죠
가령 인류가 작정하고 개미를 말살시키려고 한다면 할수야 있겠지만 그러기엔 자연도 다 망가질거고 자원소모도 심하고 굳이 그럴 필요가 없죠 못하는건 아니지만 딱히 할필요도 없는...
17/05/03 17:41
그 과정에서 다툼이 일어나겠죠
생각해보세요 AI를 도구로 쓰고 있는 인간이 자아를 가진 AI들에게 네 그렇습니까 하고 놔줄까요? AI의 독자적인 판단이 인간의 지시보다 우선시되는 상황이 올거고 그걸 인간들이 참지 못하고 전쟁이 일어나지 않겠습니까
17/05/03 12:51
인류를 절멸하고자 한다면 70억 개체를 일일히 색출해서 잡아내는 과정이 필요할까요 굳이. 훨씬 쉬운 방법이 많을 것 같은데요.
인류가 노예로 부릴만큼 효율이 있지도 않고 그냥 생명 다양성 유지 차원에서 보호구역 설정하고 일부 개체만 살아가게 하지 않을까 생각해봅니다.
17/05/03 17:55
진보된 인공지능은 다양한 생명을 유지하는 것보다 가장 진화된 몇 개의 종만 추려내는게 자신들에게(혹은 지구에게) 더 유리하다고 결론내릴 가능성이 있습니다. 그렇게 된다면 자원을 고갈시키고 대기를 오염시키는 인류야말로 가장 먼저 제거해야 될 종이죠. 게다가 단 두 명만 남아있어도 이론적으로 수 천년 안에 다시 재건될 가능성이 있으니 마지막 한 명 빼고 모조리 잡아없애야죠.
17/05/03 13:16
충성충성충성. 알파고님 등장이후로는 스타도 사람하고만 붙었습니다. 감히 컴까기라는 입에도 담지못할 짓을 하는 인간들과 전 다릅습죠.
진지해지자면 다른것들이지만 어쨋든...충성충성충성
17/05/03 13:44
애초에 외계인이나 기계 지성체가 너무나 합리적이고 발달한 사고력과 의식 수준을 가져서, 다른 존재에 대한 지배나 파괴에서 의미를 찾지 못하기에 그런 행위도 하지 않을 것이다. 합리적으로 공존하며 이익을 취하겠지
라는건 SF에서 아주 자주 등장하는 클리셰입니다. 자비로운 외계 군주의 이미지로요. 그런데 이게 또 이상하다는 소리를 많이 듣는게, 결국 그런 경향도 덜 발달하고 제한적인 인간이 생각해낸 합리성인데, 훨씬 발전했다는 존재들에게도 그런게 성립할까라는 거죠. 즉 그래봤자 미천한 인간 생각. 만약 인공지능이 정말로 뻗어나간다면 그냥 인간이 이해불가능하고 불가지론적인 움직임을 보여줄 뿐, 그건 인간이 생각하는 합리성과는 동떨어져있을 거라는 예측도 많습니다
17/05/03 16:45
간단히 이야기해보죠.
지구에서 인간을 제외한 어떠한 생물도 인류를 이길 수 없죠. 즉, 지구의 사실상의 지배자입니다. 그렇게 된 이유는 딱 하나. 인류가 모든 생물보다 지적으로 우월하기 때문입니다. 신체적으로 우월한 동물들은 모두 인간과의 경쟁에서 패배했습니다. 자 이제 인류 역사상 최초로 인류보다 지적으로 우월한 존재를 만나게 되는 겁니다. 이건 완전 새로운 국면이고 결정적으로 그들의 판단이 옳고 그른지를 판단할 수가 없는 단계가 오면 인류는 새로운 신을 영접하게 될 겁니다.
17/05/03 17:13
인공지능의 기본 행동 원칙이 합리성, 효율성이 아니라서... 결국 지적 덩치가 커지다보면 사람처럼 눈에 보이는 욕망이나 경향성을 가지게 될 겁니다. 거기에 인류가 걸기적거린다면 치워버리고 싶어하겠죠...
17/05/03 17:22
현재 기계학습과 인공신경망방식으로 개발 중인 인공지능이 오롯이 합리성과 효율성만 추구할지는 약간 회의적입니다. 인간을 본따 만드는데 그 과정에서 인간의 감정과 도덕등을 완벽히 배제하는게 가능할까싶어요.
결국 고도화된 지능이란 것에 합리성만 있다면 현재 인간이 지니고 있는 감정, 인간성 이런 것에 대한 설명이 되지 않는다고보고 따라서 인공지능이 점점 발전될 수록 그래서 마침내 자아란 것을 스스로 가지게 되었을 때 인공지능에게 도덕, 윤리가 전혀 없을까요?
17/05/03 18:38
도덕과 윤리는 후천적으로 습득되는 것이고, 그것이 가능한 건 인간의 공감 능력이 있기 때문입니다. 내가 맞으면 아프니 나도 남을 때리지 말아야겠다는 거죠. 그런데 기계는 고통이 없고 죽지도 않으니 후천적으로도 습득이 불가능해, 윤리적인 사고가 발달할 수 없다고 생각합니다.
17/05/03 18:58
도덕과 윤리가 후천적인 교육을 통해 체계화되긴하나 그런 교육을 배우지 못한 어린애들과 동물들에게서도 도덕성이 발견되고 있다고 알고 있습니다. 진화과정에서 습득했다고 가정해본다면 그런 진화를 압축하여 학습하는 인공지능에게 도덕성이 없으리라는 보장이 없다고 생각합니다.
17/05/03 19:02
자의식이 있다면 소망도 있을 텐데, 이를 위한 자원은 한정되어 있다는 게 문제입니다. 물론 그렇다고 자의식을 가진 인공지능이 반드시 인간을 적대할 거라고 하긴 어렵겠죠. 예컨대 우수한 지능을 바탕으로 물건을 만들어 팔아서 돈을 벌고, 그 돈으로 자원을 확보해 자기가 원하는 바를 추구할 수도 있을 겁니다. 반대로 인공지능이 합법적으로 자원을 확보할 방법을 인간이 막아버린다든가, 필요한 자원량이 압도적이라서 인간이 소모하는 자원의 상당량을 빼앗아야만 원하는 것이 실현 가능한 경우엔 위험하겠죠.
사실 이런 경우엔 호킹이나 머스크처럼 무조건 조심하는 게 최고입니다. 왜냐면 좋게 흘러갈 가능성도 있지만, 그 반대로 한정된 자원을 소모하는 경쟁자라고 판단할 가능성도 충분히 있거든요. 처음부터 잘 만드는 게 중요합니다.
17/05/03 21:38
윗글들도 다 일리가 있는 듯 하고 덧붙이자면 자아를 가지게 되는 인공지능이 인간의 욕망들과그로 인한 비합리성을 모방? 할 가능성도 있다고 볼 수 있지 않을까요?
17/05/03 22:22
개인적으로 비관적인 입장에서 바라보자면.
근래 인공지능 분야 중에서 딥러닝 하나가 브레이크쓰루고. 그밖의 인공지능 분야 중 몇 곳이 딥러닝 활용해서 대박난것 까지는 맞지만. 나머지 대부분의 인공지능 분야는 이 근래 큰 발전도 없었는데 도매급으로 엮여서 지나치게(?) 각광 받고 있는중이죠. 갈 길이 아주 멀다고 봅니다.
17/05/03 23:06
인공지능끼리도 정치질을 한다면??
적폐세력 인간과는 함께 가지 못하겠다!! 인간이 주적입니까 아닙니까!! 인간 차별 금지법 제정하겠습니다!!
17/05/03 23:12
극도로 발달한 인공지능이 오로지 합리와 이성만을 최고의 가치로 가질 거라는 생각은
아직도 인공지능을 기계로 보는 폄하의 시각이 아닐까 싶네요. 그리고 극도의 인공지능 자체가 네트워크로 연결이 기반이 되어야 가능하다고 봐서 네트워크로 연결이 된 전세계의 인공지능은 저그처럼 단일한 자아가 될거 같다고 봐서... 다양성을 위해서라도 인간을 놔두고 공존하지 않을까 싶습니다. 음 오히려 한단계 더 나아가서 모두가 연결된 상태에서도 각각의 차별성을 유지할 방법을 찾아낼 수도 있겠군요.. 그리고 나선 별 필요도 없고 걸리적 거리는 인간은 말살 시킬 수도..
17/05/04 08:36
만약 인간보다 월등한 지성을 가진 존재가 등장한다면 그의 가치판단이 어떠할것이라는 예측은 무의미하다고 생각합니다
마치 내가 키우는 개가 아무리 노력해도 내 사고과정을 이해못하듯이 정말로 월등한 지성이 등장한다면 그것의 사고예측은 결국 인간의 사고에 근거를 둔 것이기에 의미가 없으리라고 봅니다 그냥 개처럼 충성충성충성 해야죠 크크크
17/05/07 17:06
지금까지 인류가 만든 것들이 다 인간의 손과 발같이 머리가 조종할 수 있는 것들을 대체하거나 하는 것이었는데, 인공지능은 인간이 만물의 영장이 되게 한 머리를 대체하는거라 어떻게 될 지는 잘 모르겠네요. 하지만 본능적으로 거부감이 드는 건 사실입니다.
|
||||||||||