PGR21.com
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
Date 2016/03/13 21:33:37
Name jjune
Subject [일반] 이세돌 기사가 알파고의 약점을 찾았을지...
(어제 쓴글을 보강해서.. 썼습니다.. 밑에 리플 다신글도 많이 참조했습니다.. 원본은 지우지 않고 밑에 두겠습니다..)

4국에서 드디어 이세돌이 알파고가 약점을 드러내게 하는데 성공했습니다..
바둑 하수인 저로서는 이세돌이 어떤 인사이트를 얻었는지는 모르겠지만...
4국 경기에서는 분명히 약점을 표출시키는데 성공했습니다...

4국에서 드러난 알파고의 약점은 크게 2가지 입니다...
첫째 외길수순급의 묘수가 있을때 못 찾았다..  
이세돌이 끼우기 묘수가 놓여지면서 그래도 알파고에는 외길수순급 해결책이 남아 있었지만 끝내 못 찾았습니다..

알파고의 방식이 직감(?)으로 유력한 착수 후보군을 추려서 이들만을 가치판단하고 시뮬레이션 테스트해서 최적의 착점을 선택하는 방식이라고 요약될수 있을껍니다..
이럴 경우 알파고의 약점은 외길수순급의 묘수가 알파고의 직감(?)으로 선택하는 유력한 착수 후보군에서 빠지는 경우입니다...
쉽게 말해서 직감(?)으로는 절대 보이지 않는 그런 수가 외길수순급의 묘수면 알파고는 찾아낼수 없게됩니다..

그 동안 알파고의 완벽한 대처들을 살펴보면 알파고의 직감(?)이 어떤 방향이었는지 유추할 수 있습니다..
알파고의 묘수들은 행마(돌의 움직임 유형) 자체로만 보면 이는 그 동안 바둑 기보에 많이 보이는 자연스러운 행마 유형이었습니다...
대신 그 자연스런 행마들의 효과가... 다른쪽과 연계라던가 바꿔치기 등을 노린 효과가 독창적인 수였습니다..
사람들 기준으로는 자연스럽지 않은 행마가 요구되는 상황에서도... 알파고는 자연스러운 행마들 중에서 그 효과를 분석하는 독창적 방법으로 어떻게든 완벽한 대처를 찾아냈다고 봐야합니다....

알파고가 자연스러운 행마들 중에서 답을 찾아내는 이유는 딥러닝 같은 기계학습의 가장 큰 특징이 일반화이기 때문이죠. 주로 장점으로 작용하지만 가끔씩은 단점이 되기도 하죠...
딥러닝 같은 기계학습 방식이 일단 문제가 연속적이라고 가정하고... 이를 일반화해서 해결하다보니... 특히나 노이즈 같은것을 아주 잘 해결해줍니다...
그러다보니 비연속적 문제.. 특히 한 두점이 툭 튀어나오지만 그 점들이 아주 중요한 그런 문제에서는 취약합니다..
(그런 문제만을 해결하는 기계학습 알고리즘이 별도로 있을 정도입니다..일반적 기계학습 알고리즘으로는 해결이 안됩니다..)
이렇듯 알파고가 후보군을 추려내는데 있어 딥러닝에 전적으로 의존한다면...
분명 한 두점 툭 튀어나오는 특이한 행마의 모양들을 노이즈 취급할꺼고 이는 충분히 유력한 착수 후보군에서 빠질 가능성이 큽니다...

그런데 이런 노이즈같이 자연스럽지 않은 행마가 우연히도 외길수순급 묘수라면 알파고는 못 찾고 실수를 하게 되는거죠..
이게 문제가 맞다면 네이처에서 나온 논문의 방식으로는 단기간 해결이 쉽지 않습니다. 딥러닝의 근본적인 문제중의 하나이기 때문이죠..
다른 방식 또는 별도의 기계학습 모델을 혼용해서 해결해야 되는데 혼용 모델들 사이에서 취사선택이 어렵습니다...

(아울러 알파고 형세판단이 가치네트워크와 몬테카를로 시뮬레이션으로 이루어지는데 가치네트워크도 역시 딥러닝 베이스라 이런 자연스럽지 않은 행마로, 노이즈로 판단될수 있는 묘수라면 제대로 가치판단하기 어렵습니다.. 몬테카를로 시뮬레이션도 통계적으로 내는거라서 역시 형세판단 오류가 날꺼 같구요..)

둘째 형세판단이 열세로 판정되자 이상한 수들을 남발하기 시작했다..
이세돌의 끼우기 묘수 이후 해결이 안되고 결국 중후반에 지는 것으로 스스로 판단하자 황당한 수들을 남발하기 시작했습니다..

이부분은 아마 알파고의 리워드 방식에 문제가 있는 것으로 보입니다..
알파고가 이기는 확률만을 최대화하도록 학습시켰기 때문입니다..
이 부분이 초반이나 유리할때에는 강점을 가지나.. 중후반에 불리해져서 이기는 확률이 거의 없어질 경우에 해결책이 없으므로 문제가 생기는것 같습니다..
이는 튜닝 부분이 아직 미진해서 생기는 문제로
간단하게는 상황 판단에 따라 유리한 상황과 불리한 상황에 맞게 각각 2 개의 알파고를 별도로 개발해 이를 엮어서 사용하면 됩니다..
이 문제의 해결은 시간이 문제지 별로 어렵지 않을것으로 보입니다

요약하자면...알파고에 2가지 약점이 드러났습니다..

첫번째 약점은 외길수순급 수순이 자연스럽지 않은 행마일때 알파고는 딥러닝의 일반화 특성상 찾기 어렵고. 이 문제는 단기간 해결 안될것으로 보입니다..
두번째 약점은 중후반 약세로 판정하면 이상한 수들을 남발합니다만 이는 튜닝이 덜된 문제로 단기간 해결될것으로 보입니다..

5국이 기대되네요... 그때도 또 한번 외길수순급이지만 자연스럽지 않은 행마라서 직감적으로는 절대 안 보이는 수순이 나오길 기대합니다..
3국쯤에 약점이 보였으면 좋았을텐데 이미 시리즈 승부는 결정된 4국에서야 약점을 노출하게 되서 약간 아쉽네요...

-------------------------------------------------------------------------------------------------------------------------
(원본)
오늘 드디어 이세돌이 알파고가 약점을 드러내게 하는데 성공했습니다..
바둑 하수인 저로서는 이세돌이 어떤 인사이트를 얻었는지는 모르겠지만...
오늘 경기에서는 분명히 약점을 표출시키는데 성공했습니다...

알파고의 방식이 직감(?)으로 유력한 착수 후보군을 추려서 이들만을 시뮬레이션 테스트해서 최적의 착점을 선택하는 방식이라고 요약될수 있을껍니다..
이럴 경우 알파고의 약점은 유일한 묘수가 직감(?)으로 선택된 유력한 착수 후보군에서 빠지는 경우입니다...
쉽게 말해서 직감으로는 절대 보이지 않는(떡수처럼 보이는) 그런 수가 유일한 묘수면 알파고는 절대 찾아낼수 없게됩니다..
혹시 오늘 이세돌이 찾은 약점이 이게 아닐까요?

딥러닝 같은 기계학습의 가장 큰 특징은 일반화입니다... 대부분 장점으로 작용하지만 가끔씩은 단점이 되기도 하죠...
딥러닝 방식이 일단 문제가 연속적이라고 가정하고... 이를 일반화해서 해결하다보니... 특히나 노이즈 같은것을 아주 잘 해결해줍니다...
그러다보니 비연속적 문제.. 특히 한 두점이 툭 튀어나오지만 그 점들이 아주 중요한 그런 문제에서는 취약합니다..
(그런 문제만을 해결하는 기계학습 알고리즘이 별도로 있을 정도입니다..일반적 기계학습 알고리즘으로는 해결이 안됩니다..)

알파고가 후보군을 추려내는데 있어 딥러닝에 전적으로 의존한다면...
분명 한 두점 툭 튀어나오는 점들을 노이즈 취급할꺼고 이는 충분히 유력한 착수 후보군에서 빠질 가능성이 큽니다...
5국이 기대되네요... 그때도 또 한번 유일무이한 묘수지만 직감적으로는 절대 안 보이는 떡수처럼 보이는 점이 나오길 기대합니다..



통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
윤하아리
16/03/13 21:42
수정 아이콘
알파고의 학습방법이 기보들을 바탕으로 하고있으며, 알파고 본인끼리의 대국에서는 애초에 무리한 침투가 거의 없을거기때문에, 알파고가 약간 허점이 있는 형세에서도 본인집이라고 판단한 공간에 대한 침투수에 약점이 있는것이 아닌가 의심하게 되네요. 3국때의 하변 침투수에 대한 대처가 안일했던것도 큰그림상 어차피 이겨서가 아닌거 같기도하고, 4국때의 중앙 묘수에대한 대처가 완전히 실패한것도 그런 모양새의 연장선같기도 하구요. 애초에 사람끼리의 대결에서는 그정도 그림에서 사활을 거는 상황이 거의 없다고 봐야하니까요.
김오월
16/03/13 21:42
수정 아이콘
대충 오늘 보여 준 약점을 짚어보자면...
창의적인 묘수에 대한 대응이 완벽하지는 않다는 것.
또 불리한 상황(인간의 관점이 아닌 알파고의 판단)에서 역전을 이끌어 내는 능력은 생각만큼 강하지 않습니다.
그리고 불리한 상황에서 끝내기로 접어들면 요행수를 던지는 경향이 있어, 끝까지 경합하려는 인간기사 보다 상대하기 쉬운 측면이 존재하구요.

근데 이게 사실 알파고의 능력을 뛰어넘는 수로 알파고를 몰아 넣어야 한다는 얘기라서...
'알파고 보다 잘 두면 이긴다.'랑 같은 이야기가 될 수도 있겠네요.

그래도 이번이 아니면 인간의 승리는 없다고 보는 입장이라, 이세돌 사범이 오늘과 같은 묘수로 마지막을 멋지게 장식했으면 좋겠습니다.
16/03/13 21:44
수정 아이콘
알파고가 불리할때 특히나 중후반에서 불리할때는 멘붕에 빠지는건 맞는거 같습니다..
다만 그 전에 중후반에 불리하다고 판정하고 멘붕에 빠지게 하려면;;; 오늘의 끼우는 묘수처럼 그 전에 분명히 추궁해야 됩니다..
김오월
16/03/13 21:46
수정 아이콘
네.. 불리해지면 약해진다는 건데, 그렇게 만들기가 너무 어렵네요.
무조건 오늘과 같은 회심의 묘수에 기대야 한다면, 승산은 여전히 알파고 쪽이라고 볼 수 있구요.
윤하아리
16/03/13 21:47
수정 아이콘
'이번이 아니면 인간의 승리는 없다'는 입장에는 심하게 동감합니다. 커제가 입은 털고있지만, 구글이 받아줄지도 의문이고, 중국진출 생각해서 받아준다 하더라도 성장한 알파고에게 커제는 한입 제물에 불과할거 같거든요. 그런의미에서 이세돌9단은 오늘 승리를 통해 '발전된 ai에게 승리한 최후의 인류'라는 상징성을 획득했다고 생각합니다.
ohmylove
16/03/13 21:50
수정 아이콘
구글이 커제랑 대결한다 하네요.
윤하아리
16/03/13 21:55
수정 아이콘
지금버전의 알파고라면, 커제입장에서 본인급과의 대결 기보가 있으니 5판3승제에서 혹시 승리를 기대할수도 있을것 같지만, 이번 이세돌9단과의 기보가 저장되고, 더 업그레이드되는 알파고와의 대결이면 커제는 발릴것 같습니다.........
김테란
16/03/14 04:54
수정 아이콘
근데, 그건 별로 약점이 아닌게..
오늘 프로기사 해설들 들으셨을테니,
해설들 모두 알파고가 떡수 몇수 던지기 10~20분전부터 인간끼리의 대결이라면 이세돌9단의 승리를 확신하는 상황이라 했습니다.
즉 서로의 실력을 아는 인간 최고수들간의 경기였다면 이미 돌 던져도 이상하지 않은 게임 끝난 상황였죠.
다만 알파고이므로 혹시 모른다 했던건데 알파고도 그 정도로 굳어진 상황에선 별 수 없었던 것입니다.
입 다물어 주세요
16/03/13 21:44
수정 아이콘
제 생각에는 알파고는 상대를 엄청나게 고수로 단정하고 있지 않나 싶어요.
그래서 어떤 수가 들어왔을 때 이미 최악의 경우를 생각해버린거죠. 그래서 이세돌 9단이 그 중간 수를 두었을때 우리 인간은 '어찌어찌 잘하면 살아나가겠는데?' 라고 생각했지만 알파고는 그 한수로 이미 안의 백은 다 살아버린거죠. 상대가 최상의 수로 둔다면 살아갈 것이기 때문이에요. 거기서부터알파고가 꼼수를 하나씩...
결국은 최강수를 두어야 이기지 않나 싶습니다.

바알못이지만 실리를 먼저 챙기고 상대 세력을 부신다고 하던데 그게 이세돌 9단의 장기라고 하더라고요?
내일도 그렇게 덤비지 않을지?
윤하아리
16/03/13 21:58
수정 아이콘
최후에 알파고가 둔 수들은 상대 실수를 바라는 꼼수가 맡는대, 이세돌9단의 수는 꼼수가 아니었습니다. 앞으로의 전개와 수상전이 어떻게 변화될지 한치앞도 예측하기 힘든수였고, 알파고가 잘 대응한다고 무조건 죽는돌은 아니였어요.
입 다물어 주세요
16/03/13 22:02
수정 아이콘
알파고가 꼼수를 둔다고 표현한건데 글을 잘 못 썼나보네요. 수정하겠습니다 크
이세돌 9단의 돌이 살거라고 예상하고 여기저기 꼼수를 두지않았나 싶어요
16/03/13 21:45
수정 아이콘
공략법을 어느정도 발견한게 아닐까 예상합니다.하하
16/03/13 21:46
수정 아이콘
저도 기대합니다...
설탕가루인형형
16/03/13 21:46
수정 아이콘
오늘 발견한 약점은 지고 있는 상황에서 무리수를 둔다는 점 같습니다.
알파고를 상대로 이기고 있는 상황을 만드는건 전적으로 기사의 몫인데 이 부분에서 딱히 약점이 있지는 않은 것 같습니다.
실제로 1, 3국에서 변칙공격 등을 해봤지만 딱히 소득을 얻은게 없었습니다.
오늘의 78수 이전까지 알파고 승리 확률이 70%정도였다는 점은 반대로 패배할 확률도 30%나 있었다는건데 그 중에 하나의 선택을 이세돌9단이 했다고 생각합니다.
이번 대국의 시간대별 알파고의 승률 리포트를 공개하면 정말 재미있을 것 같아요.
16/03/13 21:53
수정 아이콘
변칙 공격이 문제가 아니라
변칙 공격의 대응책이 유일무이한 수순이고 그 수순이 떡수처럼 보여서 알파고가 후보군으로 올릴수 없는 수여야 합니다..
이번 대전을 보고 놀란게 바둑이란게 생각외로 다양한 대응책들이 있다는 점입니다..
저는 실은 정석 이외에 다른 수순은 망한다는 고정관념들이 많이 있었거든요..
그걸 이번에 알파고가 많이 깨준거 같습니다...
다만 그래도 바둑에는 외길수순이 있는 케이스는 많이 있고 그 케이스가 떡수처럼 보여서 직관적으로 찾기 힘들다면?? 알파고는 절대 못 찾을꺼라 믿고 싶네요;;
릴리스
16/03/13 21:48
수정 아이콘
오늘보니 알파고가 승률 50% 미만이 되면 계산해보면 자기가 점점 불리해지니 막 던지는 것처럼 느껴지더군요. 다 죽은돌을 이어갈때 바알못인 저도 왠 쓰레기수를 두는건지 싶었네요.

이세돌이 유리하게만 이끌어나가면 알파고도 문제점을 드러낼 것 같습니다. 이전까진 이세돌이 유리했던 적이 한번도 없었던 것 같은데 4국에서 이세돌이 유리해지니 정신줄 놓는 느낌이었습니다.
부평의K
16/03/13 21:51
수정 아이콘
뭔가 알파고를 보면서 사이버포뮬러 신의 오가를 보는 느낌이 듭니다.

자신만의 완벽한 길을 알고 있지만 그 이상으로 완벽한 주행이나 의외성이 발생하면 쿨하게 포기하던...
ohmylove
16/03/13 21:51
수정 아이콘
최고수긴 한데

자기가 판단하기로 불리하면 정신줄 놓는, 멘탈 안 좋은 녀석이죠.
16/03/13 22:01
수정 아이콘
알파고가 승률이 낮다고 판단할 경우에 초보적인 수를 두는 약점을 보이긴 했지만
그러나 오늘 중계에서도 봤듯이 승률이 50%이하로 떨어졌다고 한 87수 이후에도
역시 계산능력 하나만큼은 엄청 정확합니다.
특히 흑 131수 이건 정말 엄청난 노림수였습니다.
대부분 해설진들도 제대로 알아차리지 못한..
이 9단이 조금만 잘못 대응했어도 완전 말아먹을뻔한 상황이었습니다.
윤하아리
16/03/13 22:06
수정 아이콘
흑 131수를 정확히 확인하진 않았지만, 아마 좌변쪽 노림수였을거 같네요. 그전에도 똥수를 던지다가도 좌변 노림수를 던지기도 했구요. 정말 혹시나 하는 마음이지만, 형세가 기운 상황에서 일부러 똥수몇개 던지다가, 어설프게 정상적인수 하나 던지고, 그다음에 진정한 노림수(똥수를 가장한)를 던지는 패턴까지 알파고에 있다면 다시한번 소름돋을거 같습니다...
-안군-
16/03/13 23:22
수정 아이콘
그 점도 있지만, 알파고가 실수를 하기 시작하는 순간(87수 였나요?) 즈음의 판세를 보면...
전체적으로 중요한 자리가 전체 판에 널려있는 듯한 느낌이었습니다. 좌변도, 우변도, 하변도, 중앙도 다 손봐야 하는 상황.

인간들끼리라면, 이런 경우에 그냥 일감으로 한 군데를 손보겠지만,
알파고의 입장에서는 그 모두가 거의 비슷한 가치를 지닌 착수점이었을 수도 있습니다.

말하자면... 가장 중요한 한 점만 있을 때의 가치값이 100이라 치면,
두 점이 되면, 가치값이 한자리수인 곳은 다 버리고, 추려냈을 때, 70:30이라면, 당연히 70에다가 두고,
50:50 정도라면, 좀더 계산해본 다음에, 0.1점이라도 높은 곳에 둘텐데,
10점 이상이 되고, 거의 비등하게 중요한 착점이라면, 점수의 분포는 전부 한자리수일테고,
이쯤 되면, 진짜로 중요하지 않아서 한자리수의 점수를 받았던 곳과 비교가 안되는 상황이 벌어질 수도 있다는 거죠.

몬테카를로 트리 서치 방식에서는, 가지수가 너무 많을 때에는, 대략적인 평가를 통해 평균이하는 쳐내고 나머지만 추려내는데,
만약에 평균이하를 쳐내는 과정에서 그 차이가 너무 미묘해서, 진짜 중요한 곳을 앞 단계에서 버려버렸다면?
사실은 선택하지 말아야 할 악수를 최선의 수로 [착각]하는 일이 발생할 수도 있겠다는 생각도 들었습니다.
구글이 발표한 논문을 보면서... 그냥 머리속으로만 대략적으로 생각해본 내용이었는데, 왠지 이세돌 9단이 해낸게 아닌가.. 마.. 그리 생각을...
16/03/14 04:24
수정 아이콘
가치 판단하는 과정이 밸류 네트워크+몬테카를로 시뮬레이션으로 알고 있습니다.
밸류 네트워크에서 말씀하시는 부분은 해결되지 않을까요?
-안군-
16/03/14 10:13
수정 아이콘
앞쪽에서 말한게 밸류 네트워크의 단점을 말씀드린겁니다.
'가치값'이라고 쓴건, 밸류 네트워크라는 말이 이 분야에 문외한인 분들이 보기에 의아할 수 있는 표현이라고 생각해서고요.

알파고의 밸류 네트워크는, 착수 가능한 모든 점들이 각각 어느 정도의 가치를 지니느냐를 판단하는 기준인데,
밸류 네트워크 상에서의 가치값이 높은 지점이 여러 군데가 비슷비슷하게 나타날 때 나올 수 있는 문제점을 지적한거죠.
그 지점들이 많아지면 많아질수록 알파고가 실수할 가능성이 높아지지 않을까... 하는 예측입니다.
김테란
16/03/14 04:34
수정 아이콘
정확한건 프로기사들과 알파고 제작자들이 같이 논의해봐야 알 수 있겠지만
전 78수부터 87수가 놓일때 까지 진행에서 알파고가 수들의 가치를 잘못 판단했다고 생각합니다.
즉, 인간의 언어로 말하자면 수읽기를 잘못한거죠.
그로 인해 7~8수 진행 동안 승리가능성이 비정상적으로 높게 책정되었고, 그 형세판단하에 쉽게 가는 완착마저 섞이는 바람에
승패가 뒤바뀔만한 손해를 본것 같습니다.
그리고 그간 알파고를 접해본 이세돌9단 입장에선 어? 이 정도는 알텐데, 어? 몰랐어도 이 정도에선 파악할건데..라고 생각해서
버그성이란 표현을 쓴 듯 합니다.
제가 보는 알파고는 다음과 같습니다.
알파고도 완벽한 수읽기를 하는 것은 아니지만 매 상황 새로운 형세판단과 매우 넓고 깊은 수읽기를 하기 때문에
손해보는 수읽기를 하더라도 몇 수만에 그 손해를 완화할 유연한 대응을 하는 것이 강점인데
누가 봐도 알파고가 유리한 형세에서 급격하게 판세가 뒤바뀔 만한 오늘과 같은 타개국면등에선 그 몇 수만에 순식간에 뒤집힐 수가 있다.
즉, 인간의 실수와 비슷한 면도 갖고 있고, 그 실수를 완화시키는 능력이 인간을 훨씬 초월하는게 강점이지만 완벽한 것은 아니다.
이게 뭐 딱히 약점이라 볼 수는 없다 생각하고
다만 알파고의 강점이 십분 발휘될 운영으론 극히 힘들고 승리를 장담은 못하지만 가능성을 위해선 오늘과 같은 운영이 필요하다 정도.
16/03/14 04:56
수정 아이콘
외길수순만 되고 그 외에는 망하는 케이스일 경우 알파고가 잘 대처 못한다는 부분에서 동감합니다..
말씀하신데로 생각해보니 밸류 네트워크 쪽에서도 자연스럽지 않은 행마들이 외길수순인 판세에서는 이후 상황에 대한 가치 판단이 안될듯 합니다.(몬테카를로 시뮬레이션은 확률이라서 당연히 안될꺼구요..)

개인적으로는 알파고의 이번 대국들을 보면서 외길수순이라 생각되는 많은 케이스에서 쉬운 행마로도 다르게 보면 수가 나는 상황이 매우 많다는 점에서 감동받았습니다...
4국에서는 쉬운 행마로는 해결이 안되는 상황이 만들어진거라고 생각하구요...
김테란
16/03/14 07:43
수정 아이콘
네 이세돌 9단은 알파고의 알고리즘에 의해 당연할수도 수도 있는 것을 버그라고 표현했을 뿐,
인터뷰를 보면, 따로 분석하지도 않았음에도 대국시의 느낌만으로도 상당히 정확하게 파악하고 있는 듯 합니다.
"자기가 생각하지 못했던 수가 나오면 일종의 버그 형태로 몇 수가 진행된다. 생각 못했을 때의 대처능력이 떨어진다"
요약하자면
1.인류중 이세돌만이 정확하게 읽을 수 있을 정도의 고난이도의 수순이면 알파고도 실수할 가능성이 존재하며,
2.그 수순이 아니면 단 몇 수만에 판세가 크게 달라질 벼랑길이면 알파고가 실수를 강점으로 만회하기전에 충분한 이득을 챙길 수 있고,
3.여기에 형세가 뒤바뀔 정도라면 완착마저 가미되어 추가로 더 큰 손해를 본다.
이 정도네요.
어찌보면 이세돌9단의 버그표현이 적절할 수도 있는 것이 생각을 좀 해보니
알파고의 학습에 의한 기력강화 외에도 보완할 방법이 있네요.
2.의 경우에 벼랑길의 높이에 따라 장고를 하게 하여 수읽기 착오 가능성 및 지속 가능성을 줄이고,
3.은 벼랑길로 일단 진입한 후엔 무리수나 완착을 배제하도록 형세 50:50의 모드로.
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회 추천
64100 [일반] [야구] kt 오정복. KBO로부터 15경기 출장정지/봉사활동 120시간 징계 [17] The xian4312 16/03/15 4312 0
64099 [일반] [배구] 삼성화재의 2015-16시즌 넋두리(스압). [48] 스파이어깨기5733 16/03/14 5733 4
64097 [일반] 긍정적으로 사고하기 [93] 삭제됨7750 16/03/14 7750 0
64096 [일반] 영국 대학 졸업장의 가치는 왜 하락할까? [26] santacroce13247 16/03/14 13247 13
64095 [일반] [프로듀스101] 우리도 해보자 1인1표 인기투표! [315] ZZeta12259 16/03/14 12259 7
64094 [일반] [프로듀스101] 2차 투표로 보는 4차 경연 팀 지표 (약스포) [27] Leeka6571 16/03/14 6571 0
64093 [일반] '귀향'을 본 소감 (스포 有) [6] 블루투스4829 16/03/14 4829 5
64092 [일반] 레드 벨벳의 멤버별 티저 이미지가 모두 공개되었습니다. [18] 효연덕후세우실7714 16/03/14 7714 6
64091 [일반] [야구] 올해도 작년과 동일한 5개 방송국이 중계를 합니다. [43] 어리버리8147 16/03/14 8147 0
64089 [일반] 수비바둑 [16] 이치죠 호타루11169 16/03/14 11169 22
64088 [일반] 논문... 막막하네요(+자랑글 오해 주의+우는 소리 주의) [31] 착한아이8034 16/03/14 8034 3
64087 [일반] 출사 : 삼국지 촉서 제갈량전 19 (4. 쫓는 자와 쫓기는 자) [27] 글곰4987 16/03/14 4987 54
64086 [일반] 기 관람자들을 위한 삐딱한 주토피아 감상 [19] 마나통이밴댕이5349 16/03/14 5349 3
64085 [일반] <단편?> 카페, 그녀 -39 (부제 : 연애하고 싶으시죠?) [20] aura4136 16/03/14 4136 5
64084 [일반] 선배와 나 [5] schatten4794 16/03/13 4794 3
64083 [일반] [프로듀스101] 등급 별 생존 현황 및 순위 [27] Leeka7370 16/03/13 7370 0
64082 [일반] 알파고의 약점이라기 보단 대응법을 찾은게 아닐까 생각해보며... [32] 친절한 메딕씨10995 16/03/13 10995 1
64081 [일반] AI에 문외한이지만 구글의 AI의 문제점은 이런게 아닐까요? [31] ArcanumToss9212 16/03/13 9212 0
64080 [일반] 실종자를 찾습니다(분당 구미동) [44] 삭제됨11282 16/03/13 11282 10
64079 [일반] 이세돌 기사가 알파고의 약점을 찾았을지... [26] jjune9968 16/03/13 9968 2
64078 [일반] 연애를 포기하게 된 원인 [278] 삭제됨13808 16/03/13 13808 1
64077 [일반] 누가 미국의 기술 혁신을 주도하는가? 2 [7] santacroce4786 16/03/13 4786 17
64076 [일반] 누가 미국의 기술 혁신을 주도하는가? 1 [9] santacroce7465 16/03/13 7465 17
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로