PGR21.com
- 모두가 건전하게 즐길 수 있는 유머글을 올려주세요.
- 유게에서는 정치/종교 관련 등 논란성 글 및 개인 비방은 금지되어 있습니다.
Date 2023/06/03 22:42:06
Name v.Serum
출처 유투부
Subject [기타] 인간의 결정따위 방해가 될 뿐_AI
현재는 부인한 상태이지만

미군 대령이 시뮬레이션 중에  "저런일"이 벌어졌어다고 발표를 했었던 모양이네요

이거 터미네이터2 에서 말한대로 아니냐고..






통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
23/06/03 23:01
수정 아이콘
그냥 학습 설계 잘못 같은뎅
23/06/03 23:07
수정 아이콘
HAL9000인가요? 덜덜
아케르나르
23/06/04 02:10
수정 아이콘
로봇 원칙을 아직 인식 안 시켜서 그런 듯.
숨고르기
23/06/04 06:23
수정 아이콘
극한적 효율성만을 추구하는 AI라면 이런일도 있을수 있지 않겠느냐는 시나리오인데 마치 실제 사례처럼 와전되어 퍼진 가짜뉴스라고 하네요
츠라빈스카야
23/06/04 06:50
수정 아이콘
https://www.businessinsider.com/ai-powered-drone-tried-killing-its-operator-in-military-simulation-2023-6

“An Air Force colonel who oversees AI testing used what he now says is a hypothetical to describe a military AI going rogue and killing its human operator in a simulation in a presentation at a professional conference.

But after reports of the talk emerged Thursday, the colonel said that he misspoke and that the "simulation" he described was a "thought experiment" that never happened.“

AI 테스트를 감독하는 공군 대령은 전문 회의에서 발표한 시뮬레이션에서 군사 AI가 사기를 치고 인간 운영자를 죽이는 것을 설명하기 위해 지금 그가 말하는 것을 사용했습니다.

그러나 목요일 대화에 대한 보도가 나온 후 대령은 자신이 말을 잘못했으며 그가 묘사한 "시뮬레이션"은 결코 일어나지 않은 "사고 실험"이라고 말했습니다.
------
후속보도로는 뇌피셜이었다고 합니다.

진짜 뇌피셜인지 군에서 덮으려고 그러는건지는 모르지만..
문문문무
23/06/04 07:34
수정 아이콘
(수정됨) 실제여부와 상관없이 언급한 내용은 강화학습과정에서 흔히 일어나는 에러이긴합니다.
느낌상 드론 비행 시뮬레이션 구현해놓고 LSTM으로 강화학습돌린거 아닌가 싶네요
인간이 원하는바를 보상시스템으로 적절히 표현하지 못했을때 일어나는 흔한 논리우회?라고하던가요 그런거죠
애초에 보상시스템이란거 자체가 인간의 요구를 적절히 표현하기엔 난이도가 높은것도 있고요.

그래서 GPT같은 LLM이 중요했던거고 GPT-4가 등장하고나서야
비로소 우리가 흔히 AI라고 부를만한 형태의 무언가가 활발히 실험되고, 또 성과를 내고있는 이유죠
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회
480961 [스타1] 민속놀이 근황 [15] 메롱약오르징까꿍12540 23/06/12 12540
480960 [유머] ??? : 귀하는 우리나라 영공에 무단 침입을 했소!! [13] Starlord11088 23/06/12 11088
480959 [게임] 또 한글화 나가리라고? 베데스다 진짜 너무 끔찍한거 아니냐 [6] valewalker10987 23/06/12 10987
480958 [유머] 복숭아 후숙 [13] 메롱약오르징까꿍13862 23/06/12 13862
480957 [유머] 2050년 범죄도시 30 개봉.jpg [7] Starlord10097 23/06/12 10097
480956 [서브컬쳐] 드림웍스 신작 애니메이션 [2] 닭강정7555 23/06/12 7555
480954 [유머] 한글화 관련 스타필드와 극도로 대비되는 게임 [10] 길갈9092 23/06/12 9092
480953 [동물&귀욤] 희귀한 고생물 화석.jpg [8] valewalker10434 23/06/12 10434
480952 [게임] 결국 멘탈 나간 중세게임갤러리 유저 [29] 묻고 더블로 가!12410 23/06/12 12410
480951 [유머] 요즘 심각하다는 MZ세대 문해력 예시 [13] qwerasdfzxcv12433 23/06/12 12433
480949 [기타] 15분 견딜수있는 약이 있다고?? [23] 똥진국14956 23/06/12 14956
480948 [서브컬쳐] ??:내가 수성의 마녀 제작진을 숙청하겠다는거다! [3] 된장까스7029 23/06/12 7029
480947 [유머] 작은형수님께서 작은형을 갈구셨습니다. [16] 공기청정기10784 23/06/12 10784
480945 [유머] 스타필드 꺼무위키 한글화 관련 웃음벨.jpg [45] 캬라13679 23/06/12 13679
480944 [유머] 남편이 다이어트 해서 슬픈 아내 [28] 코우사카 호노카13586 23/06/12 13586
480943 [서브컬쳐] 얘네랑 싸우면 마석도가 이긴다 VS 못이긴다. [51] Anti-MAGE11607 23/06/12 11607
480942 [LOL] 티젠전 시청자수 76만 돌파 [58] Leeka11915 23/06/12 11915
480940 [서브컬쳐]  사장님이 미쳤어요 네이버시리즈 쿠키 대란 근황.jpg [34] VictoryFood23392 23/06/12 23392
480939 [기타] [컴덕계층]의외로 DDR메모리/ssd보다 가격이 많이 떨어진것 [7] Lord Be Goja8863 23/06/12 8863
480938 [서브컬쳐] 드림웍스 신작 애니매이션 [4] xxqpxx11276 23/06/12 11276
480936 [기타] 옛 바이킹의 생태에 대해 알아보자 [7] Lord Be Goja12141 23/06/12 12141
480935 [게임] ???: 진짜 게으른게 뭔지 보여줄게 [8] João de Deus14715 23/06/12 14715
480934 [기타] 물품 수송 계획은 철저하게 짜야하는 이유 [10] 길갈12684 23/06/12 12684
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로