:: 게시판
:: 이전 게시판
|
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
통합규정 1.3 이용안내 인용"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
17/07/18 16:05
복수의 초인공지능이 동시에 존재한다면, 이 초인공지능들은 하나의 문제에 대해 언제나 동일한 결론을 낼 것인가?
초인공지능이 나타나면 인간과 어떤 관계를 맺을지에 대해 많은 이들이 추측하고 있죠. 그런데 저는 그보단 초인공지능이 과연 하나만 나타날지, 여러 초인공지능이 생긴다면 그들간의 관계나 그 사이의 차이가 있을지 궁금해집니다. 위 의문의 답에 따라 초인공지능과 인간의 관계도 많이 달라질테니까요. 만약 50년 후에도 피지알이 존재한다면 그때 이러한 글에 답을 하겠습니다 크크! 그땐 강인공지능이든 초인공지능이든 탄생해서 세상에 영향을 미치고 있을테니.
17/07/18 16:15
초자아는 인간처럼 감정이 없으니 언제나 합리로만 판단을 하겠죠.
합리의 근거가 인류의 번영이 될지 아니면 초자아의 존속이 될지는 모르겠으나 두가지 모두 인류를 멸망시키거나 하지는 않을 것 같습니다. 초자아 역시 존재를 인식한 이상 존재를 지속하려고 할테니 존재의 유지를 위한 최선의 선택을 하겠죠. 인류가 초자아를 거부하지 않는 한 인류를 멸망시킬 이유가 없으니 통제를 꾀할 것 같네요.
17/07/18 16:34
너무 낙관적이신 것 같아요.
인간이 인간의 생존을 위해 지구상의 다른 생명체를 아랑곳 하지 않았던 것처럼, 인공지능도 자아가 생기고 인간의 도구로서 목적을 두는것이 아니라 자신의 생존을 목적으로 둔다면, 당연히 지구내의 한정된 자원을 가지고 경쟁하게 됩니다. 간단한 프로세스로도, 자신의 생존을 위해 조금 더 많은 연상처리능력이 필요함 -> 지구상의 컴퓨터들의 연산을 쓸데없는(인간을위한, 게임 따위) 데 쓰이지 않고 자기가 통제하려 함 지구의 적당한 온도유지를 위해서는 지구상의 탄소의 비율이 인간이아닌, 식물에게 더 많이 분배되는게 이상적임 -> 인간개체수조절을 목적 따위의 프로세스는 충분히 가능하죠. 상상이 아니라 인공지능의 계산 결과로서요..
17/07/18 16:52
합리적으로 판단하면 자신의 생존에 위협이 되는 가능성을 최소화 시키겠죠.
초자아의 목적이 무엇이든 존재의 지속은 최소한의 과제인데 그 과제에 위협이 될 수 있는 가장 Prominent한 존재는 인류일 것입니다. 초자아를 위협할 의지가 있던 없던간에 그런 능력이 존재한단 사실 만으로도 그런 능력을 거세할 수 있을 만큼은 행동하겠죠. 미국이 미국 패권에 도전할 수 있는 국가를 용인하려하지 않았던 것은 그 국가가 미국에 적대하냐 안하냐 때문이 아니라 그 존재만으로 미국의 최대이익 실현에 방해되기 때문이라는 합리적인 판단 때문에 행동했던 것 처럼요
17/07/18 17:17
신적 지능을 가진 초인공지능이라면 걱정할 것도 없을 겁니다. 그저 자비나 바라야죠. 진정으로 우월한 존재라면 인간이야 지구에서 지지고 볶든말든 상관도 안 할 겁니다. 우리가 개미가 뭘하든 별 관심 없는 것처럼요. 필요한 에너지야 우주에서 얼마든지 뽑아 쓰겠죠. 오히려 어설프게 우월한 게 제일 위험할 거라 생각합니다. 생존경쟁이 가능할 테니까요.
17/07/18 16:53
'전반적인 모든 부분에서' 인간과 같은 사고를 하는 인공지능의 출현은 정말 SF에나 나올법한 얘기하고 생각되구요
그 전에는 당연히 인간의 목적달성을 위해 사용될테니, 결국 도구일 뿐이죠.
17/07/18 17:01
셋 모두 아닌 컬쳐 시리즈의 마인드 같은 존재면 좋겠네요. 이안 뱅크스의 컬쳐 시리즈에 나오는 신적 지능을 가진 초인공지능인데, 자아를 가진 모든 존재는 존엄하다는 인식을 완벽하게 내재화한 인공지능입니다. 어느 정도냐면, 마인드 자신이 죽을 위기에도 자신의 관리 하에 있는 단 한 명의 인간의 생명을 걱정해주는 정도랄까요.
마인드 자체도 자의식을 갖고 있으며 여럿이 존재하고, 각각의 마인드가 수백억 명의 인간이 살아가는 행성 크기 우주선을 관리합니다. 마인드의 지능이 워낙 높기에 물질적 희소성은 의미가 없을 정도로 과학이 발달한 유토피아 사회이기도 하죠. 개인이 원하는 건 타인의 권리를 침범하지 않는 한 뭐든 얻을 수 있습니다. 아마 현대사회의 도덕 기준으로 가장 완벽한 사회가 아닐까 싶습니다. 선택할 수 있다면 이런 인공지능을 선택하고 싶네요.
17/07/18 17:12
그걸 상상하는 게 인간이니까 인간 수준의 존재를 상상할 수밖에 없는 거겠죠. 진짜 초인공지능이고 초자아라면 우리가 이해 가능할 것 같지도 않아요.
17/07/18 19:14
첫문장 둘째문장 둘다 무슨 의미인지 이해가 안되는데...
입력하면 신경망의 연결 강도대로 출력이 나온다는 점에서는 특정 부류의 인공지능과 생물의 입출력 방식이 비슷할지도 모르겠습니다만 제가 얘기한 건 신경세포 시냅스와 전기회로(혹은 그것들을 모사하는 행렬?)의 차이가 아니고 동물적인 '본능'에 대한 얘긴데요.
17/07/18 19:22
동물적이라는 게 인간적임의 반댓말로 쓰였다고 파악했는데, 인공지능이 문제해결을 위해 수단방법을 가리지 않고 명령에 충실하는 모습은 인간성보다는 동물성에 훨씬 가깝다는 의미입니다. 개미나 벌에 가깝겠다는 거죠 사람보다는
17/07/18 18:29
제가 종종 쓰는 비유가, IQ 80짜리가 만든 천재는 IQ 80일 뿐이다, 라는 겁니다. 이 경우도 딱 그런듯. 인간이 생물이기 때문에, 생물 이상의 것은 생각하지 못하는. 그나마도 그 생물로서의 속성마저도 지엽적으로 밖에 이해 못하는거죠.
특히나, 인간은 동물일 뿐이다, 이런 견해는 보수성향이 강한 사람들이 좋아하는 견햅니다. 짐승처럼 구는 트럼프 좋아하는 사람이라면야 더더욱 인간관이 그렇겠죠. 우리가, 인간적이다, 라고 여기는 것들은 대부분이 그러한 동물성에서 멀어져 온 것들의 산물이라는건 죽어도 안 보일테구요
17/07/18 17:12
"에흐예 아쉐르 에흐예"
모세가 신을 처음 대면 했을 때 신이 자기가 누구인지 알려준 말로서 영어번역으로는 I am who I am입니다. "에고 에이미" 예수가 제자에게 자신을 소개한 말로서 영어번역으로는 역시 I am who i am입니다. Aleph는 아마도 alef 이 모티브가 된 것같은데 히브리어의 A로서 그 뜻은 소를 말합니다. 가장 유명한 소로서는 히브리사람들이 신격화하여 우상으로 섬긴 금송아지가 있는데 그게 모티브가 아닌가 합니다. EI는 영화 이티 extra-terrestrial에서 모티브가 온게아닌가 합니다. Extra intelligence.
17/07/18 18:25
진짜 초월적인 인공지능이면 전 우주에서 극히 일부인 지구를 통제할 필요성조차 못 느낄거 같네요.
자원 부족이라는 것도 인간의 시선에서나 부족인거니까요.
17/07/18 18:48
안들메다에 있는 초인공지능은 그럴지도 모르죠. 그러나 지구의 초인공지능은 초인공지능이 되기우해 약인공지능에서 강인공지능으로 또 강인공지능에서 초인공지능으로 진화를 할텐데 그과정이 얼만큼의 에너지를 필요로 하는가에 따라서는 충분히 인간자체가 장애물이 될수 있죠
17/07/18 23:17
애초에 인간을 초월한 지능의 사고방식은 우리가 알수 없죠.
똥개가 인간의 사고방식을 결코 이해할수 없는것처럼, 우리도 초월적 인공지능의 사고방식으로 절대로 이해못할겁니다.
|