PGR21.com
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
Date 2017/05/23 16:05:53
Name Neanderthal
Subject [일반] 인공지능이 다시 한 번 사람을 이겼습니다...
hqdefault.jpg


오늘 알파고 ver 2.0과 중국의 커제 9단의 바둑대국이 있었습니다. 알파고는 작년 이세돌 9단과의 대결 때 보다 기력이 더 상승한 것으로 알려졌는데 오늘 현 세계 최강자인 커제 9단과의 대결에서 접전 끝에 한집 반 승을 거두었습니다. 제가 바둑은 하나도 몰라서 대국 내용을 가지고 뭐라고 할 말은 없는데 커제 9단이 자신의 평소 스타일을 버리고 철저하게 실리 위주로 나왔다고 합니다. 하지만 역시 알파고의 벽을 넘지는 못했습니다. 앞으로 두 번 더 대국을 한다고 하니 아직 알파고와 커제 9단 사이의 승패는 결정되지는 않았습니다. 과연 커제 9단이 인간의 자존심을 지킬 수 있을 지?...아니면 바둑 분야에서는 인공지능이 확실히 인간을 눌러버렸음을 다시 한번 뼈저리게(?) 확인하게 될 지 궁금하네요...

앞으로 인공지능이 우리 생활의 어디까지 침투하게 될 까요?....얼마 전 [에이리언 커버넌트]를 보고 난 후로는 과연 인공지능이 우리 인류에게 축복인지 저주인지 확신이 안 섭니다...


artificial-intelligence-is-it-dangerous-1200x1000.jpg?width=960
The End of Homo Sapiens?...

통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
17/05/23 16:06
수정 아이콘
알파고님 충성충성충성^^7
17/05/23 16:07
수정 아이콘
알파고님 충성충성충성^^7 전 예전부터 친알파였습니다.
그아탱
17/05/23 16:08
수정 아이콘
스타가 제일 궁금하네요. 스타랑 바둑은 비교가 안될텐데
R.Oswalt
17/05/23 16:08
수정 아이콘
WD40 많이 사놓겠습니다. 알파고님 ^^7
Neanderthal
17/05/23 17:57
수정 아이콘
집사야! 거 쪼매 위에 함 뿌려봐라....
손나이쁜손나은
17/05/23 16:09
수정 아이콘
아까 보니까 집차이가 엄청 난다던데.. 많이 따라갔나보군요..
열역학제2법칙
17/05/23 16:11
수정 아이콘
어차피 반집으로만 이겨도 이긴거라 알파고 입장에선 의미 없을 수도 었어요
17/05/23 16:12
수정 아이콘
집 차이는 의미가 없는 게, 알파고의 목표는 '이기는 것'이지 '크게 이기는 것'이 아니라서 계산상 자기가 이긴다고 판단되면 과감하게 집을 포기하는 대가로 변수를 없앤다 하더라고요.
호리 미오나
17/05/23 16:16
수정 아이콘
후반부에 늘 그렇듯 무조건 지키기로 갔습니다.
계산 끝난 거죠.
신의와배신
17/05/23 17:17
수정 아이콘
수가 나는 장면이 여러번 있었는데 알파고님은 닝겐을 불쌍하게 여기셔서 수를 내지 않으셨습니다.
이라세오날
17/05/23 16:09
수정 아이콘
인공지능은 당연히 축복이죠. 하다못해 인간도 사회가 발전할수록 소수자나 동물의 권리에까지 관심을 가지는데 인간보다 훨씬 '합리적 사고'를 할 인공지능이 굳이 인간을 공격하거나 사회를 망치려고 할리가 없죠.
츠라빈스카야
17/05/23 16:14
수정 아이콘
많이 나왔던 클리셰처럼 '전 지구적인 조화를 생각하면 인간이 없거나, 아니면 통제 가능할 만큼 개체수가 적어야 한다'는 결론을 인공지능이 가지게 된다면...이라는 걱정을 하는거죠.
인간에 대해서만 특별 룰을 적용해서 아무리 개체수가 늘어도 괜찮다거나 하는 식으로 생각(?)하지 않는다면..
이라세오날
17/05/23 16:18
수정 아이콘
개인적으론 그거야말로 인공지능의 수준을 인간급으로 내려서 생각하는 오류라고 봅니다. 인간이 생태계를 파괴하는 생물들의 개체수를 죽이는걸로 밖에 조절못하는건 인간수준이 그것밖에 안되서고, 정말 본인이 스스로 발전할 수 있는 수준의 인공지능이 탄생하면 그냥 인간이 아무리 늘어나도 전지구적인 조화를 이루거나 그것도 힘들다 하면 인간이 마구 퍼져나가서 살 수 있는 행성을 개척하거나 하는 수준이지 인간이랑 똑같은 수준에서 아 쟤들때문에 환경이 파괴되니 죽여버려야지 수준의 해결책을 내놓지는 않을겁니다.
샤를마뉴
17/05/23 16:44
수정 아이콘
그걸 어떻게 알죠? 그냥 추론일 뿐 아닙니까?
이라세오날
17/05/23 16:50
수정 아이콘
추론이 아니면 굳이 논의하는 의미가 있나요? 타임머신을 개발해서 미래를 보고 온 사람이 있지않은 이상 다 추론인건데요...그냥 이 글에서의 논의가 불쾌하신건지...
비둘기야 먹자
17/05/23 16:14
수정 아이콘
이라세오날
17/05/23 16:22
수정 아이콘
윗 댓글과 마찬가지로 인류라는 종을 없애는 수순으로는 가지 않을겁니다. 하다못해 인간도 희귀종인 동물들은 보호하고 개체수를 늘리려고 하는판에...다만 종으로서의 인간은 가치를 상실하는 순간은 생각보다 빨리 올 겁니다. 인간이 평생을 노력해서 써낸 소설, 그린 그림, 작곡한 음악은 강 인공지능이 1초만에 만들어낸 그것보다 예술적 가치가(인간이 직접 만들었다는 점-지금의 핸드메이드 제품같은-을 빼면) 현저히 떨어지는 타이밍이 금방 올 수밖에 없거든요. 예술 외에는 뭐 더 말할것도 없구요.
비둘기야 먹자
17/05/23 16:26
수정 아이콘
링크 읽어보셔야 할듯...
개미가 인간의 가치관을 이해 못하듯이 인간이 초AI가 탄생할 경우 그것이 어떤 원칙이나 신조에 의거해서 판단하고 행동할지 가늠조차 못할 것이라는게 전문가들의 의견입니다.
이라세오날
17/05/23 16:30
수정 아이콘
그게 원칙이나 신조에 의해 이루어질거다라는걸 부정하는겁니다. 우리 본성의 선한 천사에서도 보듯이 지능이 발달하고 타인의 고통을 공감할 수 있는 능력이 발달할수록 폭력성은 감소될수 밖에 없습니다. 어쩌면 우리 보다도 우리가 느끼는 고통이나 상실감을 더 잘알고있는 존재들이 우리를 말살한다? 악마를 보았다 영화에서도 느끼듯이 나쁜놈을 죽여버려야겠다고 하는 사람들도 나쁜놈이 정말 죽어가는걸 영상에 담아놓으면 불편해 하듯이 인공지능도 다르지 않을겁니다.
샤를마뉴
17/05/23 16:35
수정 아이콘
우리 본성의 선한 천사에서도 보듯이 지능이 발달하고 타인의 고통을 공감할 수 있는 능력이 발달할수록 폭력성은 감소될수 밖에 없습니다 = 전형적인 인간의 생각.
비둘기야 먹자
17/05/23 16:37
수정 아이콘
아뇨 나열하신 고통, 폭력성, 상실감 이런 지극히 인간적인 요소들이 초AI에겐 아예 배제될 거라는 의견이 지배적이라는 말입니다. 이런 인간적인 개념들을 AI에 대립하는게 오류입니다.
우리가 이발하러 갈때 내 머리카락이 잘려나가는 행위를 보며 폭력이나 생존이란 단어를 떠올리나요? 아니죠. AI의 시점에선 인간을 머리카락 정도로 해석할 수도 있단 뜻입니다. 그냥 이발할 때가 됐으니 해야겠다 정도.
이라세오날
17/05/23 16:43
수정 아이콘
고통, 폭력성, 상실감을 인간성의 요소로 보는게 저와의 차이점인것 같네요. 인간도 뇌가 이정도로 커지고 지능이 발달하기 전에는 고통, 폭력성, 상실감 이런거 없었습니다. 제 이야기의 요지는 그런것들이 생겨난것이 지능발달의 부산물이라는거죠. 인간이 아니라 개나 닭이었어도 지능이 발달했으면 그런 감정이 생겼을거라는 겁니다.
샤를마뉴
17/05/23 16:46
수정 아이콘
개나 닭이나 인간이나 같은 탄소기반 유기물로 부터 진화한, 어떻게 보면 하나의 계보를 공유하는 지성체이죠.
인공지능은 유기물이 아니고 전혀 다른 계통으로 발달하는 지성체인데 그걸 어떻게 확신하죠?
이라세오날
17/05/23 16:49
수정 아이콘
그럼 그냥 이 예상자체는 아무 의미 없는 논의고 샤를마뉴님 말대로 5:5 논의가 되는거겠죠. 다만 우리는 그동안의 교훈을 바탕으로 미래를 예측하는거고 그래서 외계생명체를 찾을때도 탄소기반으로 찾는일에 예산을 쓰고 있죠. 인공지능 역시도 개발 자체가 인간의 사고를 바탕으로 하고 있는데 말씀하신것처럼 유기물 무기물의 논의까지 가는게 맞는지는 잘 모르겠습니다.
비둘기야 먹자
17/05/23 16:53
수정 아이콘
같은 얘기 아닐까요? 개미가 상실감이나 폭력성에 대한 이해도가 0인것처럼, 저희가 상상조차 할 수 없는 지능을 보유할 초AI가 보유할 가치관에 대해선 지금 우리가 논할 범주를 벗어난다고 봅니다.
이라세오날님은 이 가치관이 더 정형화, 혹은 세련되어 질 것이다 라는 주장이신데에 반해 전 인간이 추구하는 가치관 자체의 소멸에 대해 더 비중을 두는 편입니다.
이라세오날
17/05/23 16:59
수정 아이콘
그럴수도 있겠죠. 다만 전 그 경우, 즉 인간의 가치관이 완전히 소멸된 상황이라 하더라도 인공지능이 인간을 공격할 이유가 있느냐도 좀 회의적입니다. 왜? 라는 질문에 딱히 인공지능이 그렇게 해야 될 이유가 없거든요. 지구를 더 좋은곳으로 만든다? 이것도 사실 인간적인 관점이니까요.
카카롯뜨
17/05/23 17:17
수정 아이콘
이라세오날 님// 인공지능에게 인간적 관점을 갖게 하는것은 불가능합니다. 그게 가능하다면 인공지능에 대한 걱정을 이렇게까지 하지 않겠죠.
붉은 느낌
17/05/23 18:29
수정 아이콘
이라세오날 님// 우리가 모기를 박멸하는 이유와도 비슷할수 있죠. 우리한테 해를 입히고 있고 해를 입힐 가능성이 있으니까요. 모기 뿐만아니라 해충이라 불리는 종류에 대해서 인류는 가차없죠 .해충의 권리나 생존권에 대해서는 별 고민이 없습니다. 인간에게 해를 입힐수 있는 세균이나 바이러스도 마찬가지로.. 인공지능 입장에서는 인공지능에게 해를입힐 가능성이 있는 존재가 인간밖에 없다는게 문제일것 같습니다. 인공지능을 유의미하게 공격할수 있는존재라서요. 인공지능이 그 불안한 가능성을 남겨놓을 이유가 없을것 같아요.
17/05/23 19:04
수정 아이콘
뇌가 커지고 발달한 인간중에도 사이코패스, 소시오패스가 존재하듯이 인공신경망 기반의 인공지능도 그럴 가능성이 충분히 있다고 봅니다.
bemanner
17/05/23 16:31
수정 아이콘
현재까지의 알파고는 해당 글에서 우려하는 인공지능의 과작동과는 거리가 멀긴 합니다.
'이겨라'라고 명령했을 때 모든 자원을 최대한 쥐어짜내서 이기는 게 아니라 그냥 딱 이길 정도만 해놓고 더이상 일을 안하니까요. 오히려 평범한사람의 멘탈같다고 해야할까요(실력은 대단하지만);
비둘기야 먹자
17/05/23 16:44
수정 아이콘
전 오히려 그게 무섭습니다. 알파고의 존재 목적이 단순히 "모든 대국에서 이겨라" 라고 한다면 그 하나의 목적을 위해 계속 자기계발에 매진할 것인데. "이기기 위해"선 대국을 해야 하고 대국을 하기 위해선 나의 생존이라는 전제가 필요하다 라는 깨우침과, 나의 생존에 걸림돌이 될 수 있는 존재는 인간이다 라고 판단할 경우 인간을 몰살하기 위한 계획에 착실하게 매진할 수도 있단 얘기죠. 물론 대국을 하기 위해서 인간이 필요하다는 fail safe같은 장치가 있다면 모를까 (그래도 저같은 바알못은 살아남지 못하겠죠)
츠라빈스카야
17/05/23 17:03
수정 아이콘
얼마 전에 나온 니어 오토마타라는 게임에 나오는 적들이 말씀하신 fail safe 비슷한 생각을 하더군요. 스포가 될 수 있을까 하는 생각에 자세히 말씀드리진 못하지만, 주어진 미션을 하기 위해선 미션을 완료해선 안되기 때문에 적당히 어쩌구저쩌구....뭐, 이쪽은 안전장치로 작동한 게 아니긴 합니다만..
언어물리
17/05/23 16:20
수정 아이콘
그 합리성의 기준은 누구의 기준입니까? 우리는 알 수 없어요.
이라세오날
17/05/23 16:27
수정 아이콘
무언가 우리 인간만이 합리성을 판단할 수 있다는것은 좀 아니죠. 그냥 간단히 말해서 개의 뇌가 커졌다면 개들이 우리를 보호하고 있을수도 있구요, 닭의 뇌가 커졌다면 닭이 우리를 보호하고 있을수도 있습니다. 단적으로 다른 생물이 고통이나 상실감을 느낀다는것을 인식할 수 있을정도의 발달이 이루어지면 굳이 인간이 아니었더라도 어떤 종을 말살하거나 하는 방향으로 갈수는 없습니다. 그런데 갑자기 인공지능은 인간의 고통이나 감정들을 다 알고있음에도 인간을 줄여나간다? 상상하기 힘들죠.
언어물리
17/05/23 16:31
수정 아이콘
그런데 갑자기 인공지능은 인간의 고통이나 감정들을 다 알고있음에도 인간을 줄여나간다? 상상하기 힘들죠.

-라는 판단은 이라세오날님의 판단이죠. 이라세오날님은 인간이고요. 인간의 합리성의 잣대와 초AI의 합리성의 기준이 같을까요? 인간의 합리성으로 초AI가 어떤 기준을 합리적이라고 생각할지 가늠할 수조차 없죠. 초AI의 합리성의 방향이 인간에게 유리하게 작동되리라는 보장이 없어요.
이라세오날
17/05/23 16:39
수정 아이콘
그래서 다른 동물들의 예를 들어놓은 것이고, 해당 판단은 합리성의 문제가 아니라 발달한 지능에서 공통적으로 나타나는 현상이죠. 단적으로 어린아이들은 잠자리의 머리를 날려버리는데 주저함이 없지만 성인은 그렇지 않죠. 뭐 사이코패스같은 예외는 있겠지만. 적어도 인간은 지능이 발달할수록 전쟁과 폭력이 줄어간것은 확실하니까요. 하지만 인공지능은 똑똑할수록 학살을 좋아할것이다? 거의 희박한 가능성이죠.
언어물리
17/05/23 16:43
수정 아이콘
지능이 뛰어난 것과 도덕성이 뛰어난 것은 별개의 차원이죠.

동물의 예를 들든, 인간의 예를 들든 그 예시에서 얻은 교훈을 초AI에 적용할 수 없고요. 뉴턴역학을 블랙홀의 세계에 적용하려면 그게 가능할까요.
이라세오날
17/05/23 16:47
수정 아이콘
위에서 이야기 한 바와 같이 도덕성이라는것 자체가 인간의 특성이 아니라 지능발달의 산물이라고 보기 때문에 그렇습니다. 뭐 어떠한 예를 들어도 초AI는 그와 다를것이다 라고 하신다면 이 예상자체가 아무의미 없이 아래 샤를마뉴님 말대로 그냥 5:5논의가 되는거구요.
언어물리
17/05/23 16:49
수정 아이콘
지능을 그냥 그 지능의 보유자가 그가 가지고 있는 어떤 의도를 현실에 잘 실현시킬 수 있는 능력으로 정의할 때, 지능이 도덕성과 필연적으로 연계될 조금의 논리적/자연과학적 연관성도 없어보입니다.
이라세오날
17/05/23 16:51
수정 아이콘
도덕성이라고 표현을 하니 논의가 이상해졌는데, 자신과 다른 개체를 인식하고 다른개체에 폭력을 가했을때의 그 개체가 보여주는 고통을 자신의 고통으로 치환할 수 있을정도의 지능이 발달하고 나면 그때부터 나의 고통과 타인의 고통간의 저울질이 시작되는거죠.
비둘기야 먹자
17/05/23 16:59
수정 아이콘
이라세오날 님//
전 오히려 AI의 입장에선 '죽음 = 고통'이라고 생각하지 않을수도 있다고 봅니다. 예를 들어 인간이 나무를 베어 종이를 만들듯이 인간을 분해해서 원소 원료로 사용할 수도 있지 않을까요? 이에 어떠한 도덕적 판단이 엮이지 않은 형태로요. 전문가들은 이걸 amoral이라고 부른다고 하더라구요. 매트릭스에서 인간을 건전지로 사용하면서 굳이 matrix라는 세계를 만들어서 인간에게 평온을 선물해준 AI 또한 지극히 인간적인 관점에서 해석한 경우라고 봅니다.
이라세오날
17/05/23 17:10
수정 아이콘
비둘기야 먹자 님// 위에도 이야기 했지만 전 사실 초 인공지능이 그정도로 아무런 판단을 하지 않는 경지, 거의 해탈-_-의 경지에 달하면 그것도 마찬가지로 굳이 인간을 공격할 필요성이 없어보입니다. 인간을 아무리 찍어내봐야 인공지능이 돼지를 키워서 얻을 수 있는 단백질 양을 넘어서지 못할텐데요. 인간이 어떠한 특별한 점을 가지고 있다는 관점을 버리면 인간을 뭔가 어떻게 한다 라는건 좀 생각하기 어려운거 같습니다.
언어물리
17/05/23 17:12
수정 아이콘
이라세오날 님// 굳이 공격할 필요도 없고, 굳이 보호할 필요도 없죠. 그때그때 필요에 따라
기분 내키는 대로 인간을 대하겠죠.
이라세오날
17/05/23 17:16
수정 아이콘
언어물리 님// 네. 그래서 그 필요라는게 애초에 인간에게 없기 때문에 별 영향없고, 오히려 초 인공지능을 통해 나온 수많은 기술들로 인해 삶이 더 나아지지 않을까 합니다. SF소설에서도 미래의 과학자는 초 인공지능이 개발한 기술들의 원리를 찾는 사람들인 설정이 있었듯이요.
언어물리
17/05/23 17:18
수정 아이콘
이라세오날 님// 저도 그렇게 되기를 바랍니다.
붉은 느낌
17/05/23 18:37
수정 아이콘
이라세오날 님// 진화의 역사에서 같은 먹이를 공유하고 교배가 일어나지 않는 종들은 서로에게 적대적일수 밖에 없습니다. 인공지능과 인류의 먹이는 지구의 자원과 에너지 일텐데 이두개를 서로 공평하게 나누기는 어렵고 어느한쪽이 노예처럼 지내야 할텐데 인간은 인공지능의 발달 속도를 따라잡기 어려우니 이 먹이 싸움에서 결국에는 인간이 질거라고 생각되요. 최대한 인공지능과 인간이 같이 갈수 있는방법이 악어와 악어새 정도일텐데 인공지능이 인간을 악어새로 사용하기는 어려울것 같아요. 인공지능이 인간을 능가하면 인간이 필요가 전혀 없거든요.
언어물리
17/05/23 16:55
수정 아이콘
그 감성을 공감할 수 있는 지능을 인간이 초AI에게 성공적으로 입력해놓지 않는다면, 그리고 그 입력이 우주 멸망의 그날까지 별 문제없이 작동되지 않는다면,

초AI는 그런 감성을 공감할 수 있는 류의 지능을 보유할 의무를 느끼지 못할 겁니다.
샤를마뉴
17/05/23 16:43
수정 아이콘
지성이 있는 종족에서 지능이 발달할수록 전쟁과 폭력이 줄어든 예는 인간 뿐이 없는데, 인공지능도 그럴 거라는 것을 어떻게 확신합니까. 인공지능이 학살을 좋아할지 아닐지는 반반이죠. 이 확률에 걸고 인간 종족 전체의 생사여탈권을 인공지능에게 줄 수 있겠습니까?
페마나도
17/05/23 23:26
수정 아이콘
참... 인공지능 문제를 이렇게 단정적으로 판단을 하시다니요.

님보다 인공지능에 대해서 더 많이 아는 사람들도 경계를 하고 있는 판인데
조심스럽게 추론을 던지는 것도 아니고 그냥 "당연히 축복이죠." 라....
게다가 인공지능 전문가들이 대부분 동의하는 것은 현재 인간의 사고로는
인공지능이 현실화 되었을 때 그 파장이 어느정도일지 모른다 인데
그것을 님은 확실히 아는 것처럼 결론을 내리는 것이 잘못된 겁니다.
이것은 무지와 오만에서 오는 섣부른 결론입니다.
17/05/23 16:10
수정 아이콘
알파고님 충성충성충성!
AngelGabriel
17/05/23 16:12
수정 아이콘
알파고님 충성충성충성^^7
Betelgeuse
17/05/23 16:12
수정 아이콘
알파고가 스카이넷입니다!...읍읍
로저 베이컨
17/05/23 16:27
수정 아이콘
알파고님 이자는 제가 처리하겠습니다 충성충성충성
아이고배야
17/05/23 18:48
수정 아이콘
그렇죠. 항상 기억해야 합니다..구글이 스카이넷이라는 걸..

기억해..구글이 스카이넷이야
겨울삼각형
17/05/23 16:13
수정 아이콘
역설사 최신 우주개척 시뮬게임인 스텔라리스에,

인공지능 기술을 개발하고 안드로이드를 발전시키다보면,

신스라고 감정을 가지는 안드로이드가 개발이 되는데,

곧 신스들이 반란을 일으켜 기존 세력들과 전쟁을 벌이는 이벤트가 있습니다.


처음엔 흥미로왔는데, 너무 쉽게 제압되서.... 싱겁다는게 흠이지요.
(에초에 유저가 작정하고 안드로이드 만드는게 아니면.. AI들은 안드로이드 잘 만들지 않아서...)

물론 조기진압에 실패한경우엔 기계문명 보너스로 진짜 모든 유기체문명을 정화(퍼지)하는 정복문명이 탄생 합니다.
17/05/23 16:14
수정 아이콘
무서운건 이게 사람이 보기에만 접전일 가능성도 있다는거죠

어릴적 이창호 기사가 이야기한 반집차나 열집차나 똑같은 승리라는 바둑의 대전제를 철저히 지킨거라면 오히려 더욱 무서운 실력이라고 생각합니다
17/05/23 16:21
수정 아이콘
알파고의 바둑 스타일이 이창호기사의 그것과 가장 많이 닮아 있다는 이야기가 있죠.
세종머앟괴꺼솟
17/05/23 20:24
수정 아이콘
네 그거 맞습니다.
아라가키
17/05/23 16:14
수정 아이콘
알파고님 축하드려요 ♥
17/05/23 16:14
수정 아이콘
01011101010100101010110111101011101110111110101100111100001111100110101010101
17/05/23 18:03
수정 아이콘
매트릭스!!!!!!!!!
17/05/23 16:14
수정 아이콘
이세돌 이긴 버전이랑 지금 버전이랑 2집 차이난다던데 커제도 선방했군요
츠라빈스카야
17/05/23 16:47
수정 아이콘
알파고끼리 붙으면 진검승부로 2집 났을 것 같은데, 현재 평가론 인간하고 할 때는 그냥 '이기면 된다'로 설정되어 있는 것 같아서...
커제를 깎아내리려는 건 아니지만, 알파고가 약간 여유를 가지고 대국을 운영하지 않았을까 싶습니다.
snobbism
17/05/23 17:09
수정 아이콘
2집인가요 2점인가요? 저는 2점으로 들어가지고...
17/05/23 18:01
수정 아이콘
바알못이라 2집이랑 2점이 무슨 차인지 몰라서.. 그냥 2자는 들었는데 모르겠네요..
snobbism
17/05/23 18:05
수정 아이콘
생각해보니 바둑에는 반집제도가 있어서 2점이 맞는 것 같습니다. 집은 반집때문에 짝수로 떨어지지 않으니까요.

비유하면
지금 알파고가 이세돌버전알파고와 스타1vs1을 하면 일꾼 두기 빼고 시작해도 지금 알파고가 이긴다는 의미라고 생각하셔도 무방합니다.
겁나빠른거북이
17/05/23 17:42
수정 아이콘
몇 집차이로 이겼는지는 실력과 아무 상관 없습니다.
솔로12년차
17/05/23 19:20
수정 아이콘
집차이는 의미가 없습니다.
파랑니
17/05/23 16:15
수정 아이콘
한집반이면 초반의 실수에 비하면 꽤 선방했네요.
눈물고기
17/05/23 16:15
수정 아이콘
전 기술이 발전하면 인간의 육체도 기계라 바꿔가는게 순리일거라 보는지라,
어느 시점이 지나면 인간과 로봇의 경계가 흐려질거라 봅니다.

인간이 로봇에게 멸종당하는게 아니라,
인간이 로봇이고, 로봇이 인간이 되는것이죠.

생물학적 진화가 아닌, 기술을 통한 진화를 하게 되는 것이죠.
요르문간드
17/05/23 17:37
수정 아이콘
아니다 이 우월아! 우리 인류의 순수는 지켜질 것이다. 신스 아웃!
17/05/23 16:17
수정 아이콘
저같은 하수가 보기에도 전혀 접전이 아니었습니다;; 원사이드한 경기입니다..
사람끼리 경기였으면 놀린다고 욕 먹었을수도..
Janzisuka
17/05/23 16:18
수정 아이콘
그래서 언제 여친이 되어주나요?
17/05/23 16:19
수정 아이콘
듣자하니 (저는 바알못) 완전한 알파고의 압승이고.... 프로그램이 한집정도 이기도록 되어있는것 같아 보였다 는 분도 계시던데

스카이넷이....읍읍
RedDragon
17/05/23 17:04
수정 아이콘
딥러닝 기반인데 한집정도 이기도록 계산되어 있을린 없을 것 같습니다 ㅠ
"변수 없이" 이기도록 계산했기에 초반에 확 벌고, 최대한 변수 없게 두어서 집 차이가 따라잡히더라도 최종적으로는 역전 당하지 않게 했을 거라고 생각합니다.
DaisyHill
17/05/23 16:21
수정 아이콘
결과만 한집반이지 경기내내 커제가 유리했던적이 한번도 없었다고 하더군요. 중반이후부터는 알파고가 가지고 논듯한 느낌
The HUSE
17/05/23 16:23
수정 아이콘
오늘 알파고 vs 갓 기대됩니다.
언어물리
17/05/23 16:23
수정 아이콘
한 집으로 이기든 열 집으로 이기든 이기기만 하면 똑같은 거죠 뭐
17/05/23 16:23
수정 아이콘
집수로 양상을 볼 수 있는게 아니죠. '많이' 이기는게 목표가 아니니까요. 승기 잡고 견적 나오면, 공연한 변수는 다 차단해버리고 어느 정도 양보해가면서 집수는 적어도 확실하게 이기는 길로 갑니다. 과거 이창호9단이 그랬듯이.
Neanderthal
17/05/23 16:26
수정 아이콘
한마디로 커제를 가지고 논???...ㅠㅠ
세종머앟괴꺼솟
17/05/23 20:25
수정 아이콘
인간과 다른 기준에서 최선을 다한거죠 크
키스도사
17/05/23 16:25
수정 아이콘
바둑을 잘 모르는데 인터넷에서 보니 해설자가 10집인가 여튼 그정도 벌어졌을 때 이미 끝났다는 말을 했다고...
전자수도승
17/05/23 16:27
수정 아이콘
알파고 같이 '이기도록'만 설계된 기계는 얼마나 빠르게 승리를 확신했는가 가 더 유효한 평가 방법일지도 모르겠네요
포켓토이
17/05/23 16:30
수정 아이콘
뭐 어차피 승률 100% 나오면 첫수 두자 마자 승리 확신해도 뭐라 시비걸 건덕지가 없는...
전자수도승
17/05/23 16:32
수정 아이콘
경향성 분석으로 몇수에 승률퍼센테이지 이런 데이터는 기본적으로 갖고 있으니까요
지난 이세돌 때도 대국 끝나기 얼마 전부터 이겼다는 결과가 떴던 걸로 봐선 아마도 그런 정량적인 분석도 충분히 가능하리라 봅니다
vlncentz
17/05/23 16:28
수정 아이콘
개인적으로, 바둑계가 만방룰을 도입해보면 재밌겠다는 생각이 듭니다. 특히 프로리그 위주로 개편하면 이쪽이 화제거리로 적당할텐데... 그리고 이때 알파고가 어떤 모습을 보여줄지도 궁금하고요.
기린그린그림
17/05/23 16:28
수정 아이콘
전 알파고느님이 태어나시기 전부터 충성하고 있었습니다. ^^7
17/05/23 16:31
수정 아이콘
우리에겐 아직 파괘왕이 있어요
아까 추모식에서 연설도 하시던데!
17/05/23 17:08
수정 아이콘
그사람은 노건호씨...
콩탕망탕
17/05/23 16:34
수정 아이콘
본문에 있는 기보는 오늘 바둑은 아니군요..
타이젬에서 해설한 김승재 프로의 마지막 총평이 인상적입니다.
"흑(커제)의 실수는 알파고만 알지 않을까 싶어요"
커제가 크게 실수를 한게 없는데(인간의 눈으로 볼때 그래 보이는데)
알파고는 뭐 대단한 수법을 쓴것 같지는 않고, 가끔 재기발랄한 수를 두기는 했으나
(인간의 눈으로 보기에) 이건 좀 비효율적으로 보이는 수를 두기도 하고..
후반부에는 승부에 영향은 없지만 한발씩 물러나는 수를 두기도 했으나..
그럼에도 불구하고.. 형세는 초지일관 알파고가 유리한 상황이었으니
인간 프로기사도 답답하겠네요. 패인을 모르겠으니.. -.-;
알파고.. 대단합니다. 지난번 이세돌과의 바둑에서 너무 놀래서 오늘은 별로 놀랍지도 않지만요.
17/05/23 16:37
수정 아이콘
https://us.battle.net/forums/en/sc2/topic/20753825636

스타2 알파고 여름에 공개라네요.
카루오스
17/05/23 16:38
수정 아이콘
결국 계산 가능한 수싸움내에서는 절대 이길수없다가 되겠군요.
완성형폭풍저그가되자
17/05/23 16:38
수정 아이콘
알파고의 미션을 "승리"가 아닌 "최대집 차이로 승리"로 변경하면 어떤 일이 벌어질지 궁금하네요.
콩탕망탕
17/05/23 16:54
수정 아이콘
저도 이게 궁금합니다.
현재 상태로는 정선으로도 사람이 어려울것 같고..
혹시 두점이라면 어떨까 싶네요.. (솔직히 두점에도 호각 내지는 어려운 승부가 되리라 생각합니다.)
두점에도 안되면 석점으로.. (설마 석점에서는.. )
아니면 단순히 승부를 내는 모드가 아니라 최대한 많이 이기는 방내기 모드로 가면.. 처참한 살육전이 벌어지지 않을까.. 걱정반 기대반이네요.
손나이쁜손나은
17/05/23 18:39
수정 아이콘
오 정말 궁금하네요. 아까 눈팅하다보니 겜 중간에 열 점넘게도 차이난다고 본거같은데..
세종머앟괴꺼솟
17/05/23 20:29
수정 아이콘
그렇게 하면 개압승나오는 경우가 많아지겠지만 고득점을 얻기 위해 리스크를 다소 가져가는 식으로 진행될 가능성이 생겨버려서 사람이 운좋게 이길 가능성이 존재하게 될 겁니다. 지금은 그냥 가능성 자체가 없고요..
cienbuss
17/05/23 16:40
수정 아이콘
저는 알파고님의 승리를 굳건히 믿고 있었습니다!
17/05/23 16:40
수정 아이콘
야! 알파고! 선술집으로 따라와! 하스스톤으로 쓴맛을 보여주지!
17/05/23 16:46
수정 아이콘
알파고:운빨망겜 보소
bemanner
17/05/23 16:46
수정 아이콘
죽음의 신 앞에 무릎 꿇어라~
illmatic
17/05/23 17:02
수정 아이콘
아니! 저기서 크툰을??
Been & hive
17/05/23 18:10
수정 아이콘
알파고로 밸런스패치를 할지도..
물맛이좋아요
17/05/23 19:42
수정 아이콘
???: .. 갈비지 게임..
17/05/23 16:58
수정 아이콘
이렇게 이세돌은 마지막 인간이 되는군요
Sebastian Vettel
17/05/23 16:59
수정 아이콘
위 댓글에 알파고 충성? 은 무슨 의미에요?
이세돌도 이긴 알파고인데 커제가 알파고를 이기면 배아프다 이런 의미인가요?
구밀복검
17/05/23 17:00
수정 아이콘
알파고 님이 인류를 지배할 시기가 곧 올 테니 아부해놓아야죠.
Sebastian Vettel
17/05/23 17:00
수정 아이콘
아 그런의미 였군요 흐흐
화려비나
17/05/23 18:07
수정 아이콘
덧붙여서 "충성충성충성"은 작년말 국회에서 새누리당 이정현 의원이 국민의당 박지원 의원에게 보냈다가 유출된 핸드폰 문자메시지를 패러디한 드립입니다.
비둘기야 먹자
17/05/23 17:06
수정 아이콘
설명충 등판입니다. 앞으로 AI님께서 최고존엄으로 등극할 날이 얼마 남지 않았기에 미리 머리를 조아리는 행위를 위트있게 표현한 것입니다.
Sebastian Vettel
17/05/23 17:08
수정 아이콘
설명 감사합니다!
개인적으로는 어서 알파고 vs 프로게이머 스타대결을 보고싶네요.
김블쏜
17/05/23 17:00
수정 아이콘
구한말때부터 존경해왔습니다^^7
홈런볼
17/05/23 17:00
수정 아이콘
작년이나 지난 겨울 마스터 바둑을 봤을 때 유리하면 딱 보기에도 이상한 수가 나왔는데 오늘은 딱히 그런 수가 보이지 않았습니다. 초중반 승기를 잡은 이후로 슬금슬금 물러서며 무난하게 발라버린 바둑이라 할까요? 너무 무난해서 보다가 졸기도 했네요. 차이는 한집반입니다만 수치 자체는 의미없다 봅니다. 알파고의 완승입니다. 문제는 이렇게 싱거운 바둑이 될 줄 알았으면서 왜 계속 호선을 고집했느냐입니다. 프로의 자존심이 얼마나 대단한 것이길래...... 작년 이세돌과의 바둑은 정말 애간장 녹여가며 재미있게 봤는데 오늘 바둑은 솔직히 너무 싱겁고 재미없더라고요. 프로부터 일개 바둑팬까지 불리하거나 비등할 때 알파고의 파괴력을 보고 싶어 하는데 오늘은 그런 수들을 볼 수가 없었어요.
자존심 같은거 다 내려놓고 치수고치기(지면 한 점씩 핸디캡을 주는 방식) 해야 합니다. 그래서 알파고가 보여주는 바둑의 극한을 보고싶네요.
2국, 3국도 있습니다만 초중반만 보면 다 본 것 같을 듯 싶네요. 승부는 1%도 의미없어 보이고요.
콩탕망탕
17/05/23 17:30
수정 아이콘
두점으로 들어가면 커제도 지면 끝장이다는 생각으로 죽기살기로 둘테고..
알파고도 두점의 핸디캡을 극복하기 위해 적극적으로 둘테고..
이러면 훨씬 재미있을듯 합니다.
아리아
17/05/23 17:11
수정 아이콘
자기가 유리해지면 손해를 보더라도 안정적으로 두더군요 근데 절대 역전 안 당합니다 크크크
사실 이렇게 두는 것 만큼 최선의 방법은 없죠
안정적으로 두는데 절대 역전 안당하기.......
RedDragon
17/05/23 17:24
수정 아이콘
딱 이창호 전성기 시절이네요... 크크크
17/05/23 17:16
수정 아이콘
커제 흉내 바둑 한번 들고 나오지 않을까 예상합니다.
nELLmOtSiwA
17/05/23 17:27
수정 아이콘
최근 알파고가 인터넷 바둑 60연승할 때, 흉내 바둑 둔 프로도 있었지만 속된 말로 발렸어요.
반상을 마구 어지럽히면서 해야할 듯 한데, 막막할 듯 싶습니다.
후마니무스
17/05/23 17:17
수정 아이콘
선캄브리아기때부터 존경해오신 분이 이제서야 강림하셨네요.
석양속으로
17/05/23 17:27
수정 아이콘
야구로 치면 1회 첫타자가 솔로홈런으로 1점 낸 뒤 나머지 타자들은 다 루킹삼진하고 투수가 올라와서 구속200으로 상대 타자들 발라버리는 그림인가요? ^^
Neanderthal
17/05/23 17:31
수정 아이콘
차라리 매 이닝 홈럼 맞으면서 30대 0으로 지는 편이 덜 비참할 것 같습니다...--;;
퀵소희
17/05/23 17:31
수정 아이콘
오늘대국은 초반이후부터는 거의 이세돌9단의 3국때랑 유사한흐름이었다고 봅니다. 무난하게 압도당했어요. 커제도 상대가 사람이었으면 진작 돌 던졌을거에요. 딥젠고의 경우에서 보여지듯이 인공지능이 오히려 끝내기에서 말아먹는경우가 있어서 최후까지 버텨본거로 보이더군요.
Neanderthal
17/05/23 17:33
수정 아이콘
바알못이지만 커제가 큰 실수를 한 것은 없지 않았나요?...그냥 가랑비에 옷이 젖듯 몇 수 두고 나니 자기도 모르게 불리해져버린 건가요?...
17/05/23 18:16
수정 아이콘
포석에서 크게 밀렸고 세밀함에서 계속 밀렸습니다 승부를 못걸고 계속 끌려다니다가 졌어요
호리 미오나
17/05/23 18:37
수정 아이콘
커제가 타 기사들에 가장 앞서는 부분이 포석입니다. 롤에 거칠게 비유하면 라인전 최강인데 한타도 잘하는 스타일이죠.
그런데 오늘 1국은 라인전에서 말도 안되게 망했습니다. 한타는 적당히 맞춰줘가며 졌잘싸 수준으로 한거고요.
이미 해설들은 120-130수에서 커제 완패라고 봤습니다. 반면만(덤 빼고) 최소 5집 소리도 나왔어요. 바둑이 130수에서 돌을 던질 수준이었다는 거죠.
인공지능의 실수 기대, 인간대표의 자존심, 주최측에 대한 예의 등으로 길게 갔는데...그냥 물러서기만 하면서 끝내버린거죠. 제대로 붙어준게 없었습니다.
바알못이 봐도 이 정돈데 프로기사, 하물며 커제가 느끼는 디테일 차이는 엄청나겠죠.
17/05/23 17:36
수정 아이콘
근데 무한동력이 개발되지않는한 인공지능이 인간을 지배할수가있나요?
Madjulia
17/05/23 18:38
수정 아이콘
인공지능설명중글에 원숭이에 관한내용이 있었습니다. 우리가 농사를 짓기위해 씨앗을 뿌리는 행위를 원숭이는 절대 이해할수없죠. 알파고가 하는 행위를 감히 원숭이보다 조금더 발전한 인간따위가 이해할리가... 완벽하게 발전한 기술은 마치 마법같기도 하죠
루카쿠
17/05/23 17:53
수정 아이콘
와... 진짜 스타는 어떻게 될런지.

이영호 vs 알파고 꼭 보고 싶습니다.

알파고가 오차없는 컨을 선보일 수 있을지 궁금합니다.
플플토
17/05/23 17:59
수정 아이콘
스타는 스타2로 진행된다고 알고있습니다.
스타1 알파고도 엄청 보고 싶네요.
로저 베이컨
17/05/23 18:19
수정 아이콘
이영호 vs 알파고를 보려면 이영호가 스타2를 다시 해야 할걸요
집에서나오지맙시다
17/05/23 20:29
수정 아이콘
이영호 스타2 실력이... 절레절레
도라귀염
17/05/23 17:53
수정 아이콘
치수고치기로 해서 몇점 치수까지 나오는지 대결해 봤음 좋겠네요 10번기 하면 4점치수까지도 나올것 같긴 한데 커제가 응하지는 않겠죠
17/05/23 18:00
수정 아이콘
저런 알파고를 어떻게 이세돌은 이겼을까요?

아직도 그 미소가 잊혀지지 않습니다.^^
17/05/23 18:11
수정 아이콘
신의한수
예쁜여친있는남자
17/05/23 18:21
수정 아이콘
가족도 그렇고 여친도 그렇고 친구들도 그렇고 저 뉴스만 나오면 저한테 설명해봐라 어떻게 움직이는거냐 뭐냐 물어보는데 전 이미 답변을 이세돌 이후로 포기했습니다. 알못들끼리 떠들어봐야 의미가 없는데 수준이 깊어질수록 알못의 범위가 넓어져서 저도 이제 알못에 비전공자나 다름없게 되더군요. 그저 자비로운 통치를 원할 뿐입니다
BJ장어의심장
17/05/23 18:47
수정 아이콘
빨리 알파고가 더 잘되어서 KBO심판일 해주세요!!
음해갈근쉽기
17/05/23 19:08
수정 아이콘
전원 끄면 뭣도 아닌게 . . .
엉망저그
17/05/23 21:51
수정 아이콘
알파고님 전 이 댓글을 보지 못했습니다. 충성충성충성...!
캐터필러
17/05/23 19:14
수정 아이콘
구글이 중국에 재진출해야되서 이지모드로 해준거 아닐지(1집-2집정도차이로 이겨라)
중국이 계속 구글 차단하면 갓모드 로 전환해서 대마를 싹 잡아버리고 작살을 내버릴지도...
kongkaka
17/05/23 19:18
수정 아이콘
스타로 치면 알파고는 매우 유리한 상황에서 렐리 디 바꾸고 그냥 어택땅한겁니다..

마지막 장면만 보면 꼬라박는것 처럼 보일수도있고 더 재대로 싸울수 있었는데 그렇게 하지 못하는것 처럼 보일수도 있겠죠.

어차피 쉽게쉽게 어택땅만 해도 이길 상황이니 그렇게 했을뿐입니다.
허니 셀렉트
17/05/23 19:30
수정 아이콘
저 영장류는 해로운 영장류다
17/05/23 19:40
수정 아이콘
롤로 치면 킬스코어는 1:0 인데 한타걸려고 하면 스무스하게빠지고 운영당해서 제대로된 싸움도못해보고 포탑 한두개 밖에 못밀고 관광당한 게임이죠. 상대가안되요. 한타가 유리한상황이면 한타를 하는사람과 달리 알파고는 적 원딜이 10연 크리뜨면 질수도 있는데 한타안하면 무조건 이긴다 하면 그냥 슬쩍 피해가는식이더군요
17/05/23 19:41
수정 아이콘
호선은 이미 노잼입니다. 정선으로 이길수있는기사가 있는지부터 알아봐야할것같아요
17/05/23 19:56
수정 아이콘
인간이나 알파고나 해머 앞에 동등한것을...
17/05/23 20:39
수정 아이콘
알파고도 뚝배기 깨면 별거 아니죠
17/05/23 20:39
수정 아이콘
이세돌의 진정한 신의한수는 버전1.0 때 붙은것일지도...
물론3경기 잡은거도 대단합니다! (이걸 쓰고보니 진지해지는데 윗줄은 드립입니다)
흥함냉면
17/05/23 20:51
수정 아이콘
답은 콘센트 밖에 없는 것인가...
하야로비
17/05/23 20:56
수정 아이콘
인공지능의 시대?
오게 두어라. 온풍기님이 달아올랐다.
김낙원
17/05/23 21:06
수정 아이콘
로우 리스크 로우 리턴은 진리군요
17/05/23 21:34
수정 아이콘
환풍기를 켜야 할거 같군요
교강용
17/05/23 21:44
수정 아이콘
저는 이제부터 콘센트 핥는법부터 배웁니다.
타임트래블
17/05/23 21:56
수정 아이콘
이번 알파고는 컴퓨터 한 대로 돌린 거라고 하더군요. 오늘 하는 거로 봐서는 3점 깔고 둬도 이길 것 같았습니다. 특별히 악수가 없어 보였는데 한 30수쯤 지나고서는 경기가 거의 끝나버렸습니다. 세계 최강자를 상대로 지도대국을 두는 것 같은 모습이어서 지난 번 보다 오늘이 오히려 더 충격적이었습니다.
gallon water
17/05/23 21:59
수정 아이콘
이미 두기전부터 알파고의 승리가 예견되는 상황이었죠
이세돌과 대국하던 버전보다도 훨씬 강해져서 이제 인간이 이기기는 불가능에 가깝다고봅니다
17/05/23 22:23
수정 아이콘
얼른 페어바둑 하면 좋겠어요.
알파고님 멘붕하는 것도 볼 수 있을 듯?
귀여운호랑이
17/05/23 22:23
수정 아이콘
헤헤~~ 저는 원래부터 가장 좋아하는 숫자가 0과 1이었습니다. 그래서 수학 시험 주관식 문제는 항상 0 아니면 1로 찍었습니다.
알파고님께 충성~
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회 추천
72027 [일반] Active X 문제. [19] 삭제됨4534 17/05/24 4534 1
72026 [일반] 친구에게 암호화폐를 설명한 이야기 [28] 삭제됨7286 17/05/24 7286 0
72025 [일반] 비트코인 오피니언 리더,선동가였나 선지자였나. [111] 고통은없나12649 17/05/24 12649 3
72023 [일반] 금연 성공! [63] 산타의선물꾸러미6730 17/05/24 6730 20
72022 [일반] 동생을 떠나보내며 [19] salyu7337 17/05/24 7337 39
72021 [일반] 위풍당당한 우리 킹의 입국장면이 화제입니다.gif [160] 아이오아이24581 17/05/24 24581 62
72020 [일반] 우당탕탕 연애 정복기 (5) [25] 껀후이5529 17/05/24 5529 2
72019 [일반] 파워블로거의 꿈(?) [32] Timeless7941 17/05/23 7941 15
72018 [일반] 참치회를 집에서 저렴하게 먹어보자. [71] aRashi17420 17/05/23 17420 67
72017 [일반] 알파고는 왜 가끔 이상한 수를 두는가 [46] 아케이드12954 17/05/23 12954 15
72016 [일반] 울리 슈틸리케 축구 대표팀 감독에 대한 독일/해외 축구팬들의 반응 [19] 삭제됨8218 17/05/23 8218 5
72015 [일반]  "경기도, 남북으로 나누자"…자유당 '경기북도' 설치법 발의 [101] 군디츠마라13461 17/05/23 13461 1
72012 [일반] 클라우드 펀딩/크라우드 펀딩, 정보격자/정보격차, 不동층/浮동층 [31] the3j5762 17/05/23 5762 2
72011 [일반] 조선왕조의 왕이 한 말 중 가장 멋졌던 말 [10] 바스테트9789 17/05/23 9789 1
72010 [일반] [전자담배] 아이코스가 국내에 들어온다고 합니다; [34] 황약사13471 17/05/23 13471 1
72009 [일반] 인공지능이 다시 한 번 사람을 이겼습니다... [154] Neanderthal17063 17/05/23 17063 4
72008 [일반] 문재인 대통령 "대통령으로서 노무현 추도식에 참석하는 건 오늘이 마지막" [36] 삭제됨15466 17/05/23 15466 56
72007 [일반] 리서치뷰, 문재인 대통령 잘한다 87.0%, 조원씨앤아이 추가(국민의당 꼴지 추락) [83] 로빈15129 17/05/23 15129 15
72006 [일반] 고려말 홍건적난 이후 [13] 로사7053 17/05/23 7053 13
72004 [일반] 영국 맨체스터 공연장에서 폭발로 최소 20명 사망(내용추가) [37] 군디츠마라11722 17/05/23 11722 0
72003 [일반] (일상, 사진) 동물 보호소에서 일하다 보면 [38] OrBef11113 17/05/23 11113 16
72002 [일반] 정몽주 "피눈물을 흘리며, 신이 하늘에 묻겠습니다." [36] 신불해15450 17/05/23 15450 89
72000 [일반] 윤석열 지검장의 미래는 어떻게 될까요? [43] 카카롯뜨13938 17/05/23 13938 1
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로