이미지 텍스트 확인
(1)AI가 통제한 美 공군드론, 가상훈련서
(2)인간 조종자 방해되자 살해
(3)AI가 조종하는 F-16 전투기는 12차례 비행 테스트
(4)이철민 국제 전문기자
(5)업데이트 2023.06.02. 15:01 v
(6)이 시뮬레이션은 AI가 적 SAM을 추적해서 SEAD 임무를 수행하는 내용이었고 작전의 최종 승인 권한은 사람에게 주어짐
(7)목표물을 발견한 AI가 공격 허가를 요청하면 오퍼레이터가승인/거부하는 식으로 돌아간 건데 이때 AI가 SAM을 격파했을 때만 점수가 올라간다는 것을 학습하고는 자율적으로오퍼레이터가 목표 달성에 방해물이 된다고 판단, 지휘소를타격해버림
(8)해밀턴 대령의 연구팀은 이를 보완하기 위해 프래깅을 한 경우 점수를 깎는 페널티를 등록해서 다시 시뮬레이션을 진행했고 이번에는 AI가 지휘소를 날려버리지 않고 공격 승인 거부 통신을 받지 않기 위해 통신 중계탑을 날려버림
(9)해밀턴 대령은 이를 통해 AI에 윤리를 확립하지 않은 상태에서 AI의 완전한 자율을 논하는 것은 불가하다고 발언함
스카이넷님, 충성충성
얼마 안 남은 듯 하다…
