이미지 텍스트 확인
(1)챗 GPT가
(2)5조개의 문서를 학습
(3)챗GPT가 5조개의 문서를 가지고 학습을 했어요
(4)규모의 법칙,
(5)규모의 법칙 (Law of Scale)
(6)컴퓨팅 파워를 많이 투입할수록, 학습 데이터가 많을수록,매개변수 숫자가 클수록 A 성능이 좋아진다.
(7)Law of Scale 적용을 받습니다
(8)뭔가 하면 이게 되게 이상한건데
(9)규모를 키울수록 성능이 좋아져요
(10)근데 왜 좋아지는지 모릅니다
(11)되게 이상한건데
(12)아주 자연스럽게 생각하면 인풋이 많아지면
(13)당연히 어떤 성능도 개선될 거라고 막연히 생각을 하는데
(14)양에서 질로의 전환이 일어나요
(15)매개변수천억↑
(16)매개 변수가 천억 개를 넘어가는 순간이거나
(17)매개변수천 억 1
(18)학습 연산량 10의 22제곱 ↑
(19)학습 연산량이 10의 22 제곱을 넘어가는 순간
(20)그래프가 이렇게 꺾여요
(21)이걸 ‘느닷없이 나타나는 능력이라고 불러요
(22)AI 시스템에 갑자기
(23)예측할 수 없이 나타나는 기술
(24)추론능력이 갑자기 툭 튀어올라간다거나
(25)그전까지 없던 능력이 생깁니다
(26)뭔가 양이 쌓여서 질적으로 바뀐 건데
(27)왜 그런지 원인은 몰라요
(28)지금은 아예 예상 밖을 떠나는
(29)어떻게 보면 인간의 통제력을 떠나는
(30)내용들을 담아낸다는 뜻인가요?
(31)사실은 그렇다고 할수 있어요
(32)그러니까 이게 굉장히 잘 작동하는데
(33)왜 이렇게 잘 작동하는지를
(34)알지 못하고 있다
(1)현학자 2024-04-21 09:15 791997ㅇ 이미지 텍스트 확인
(2)그러니까 ‘차 없이 다니는 사람이 차를 샀더니 아이를 10명 가졌다’ 같은 거네. 부가티를 사서 섹스를맘껏 한 건데 갑자기 번식 능력이 좋아졌다고 잘못
(3)이해한 거지. [5] 이동
(4)■추천 답글
(5)필용이 2024-04-21 10:19:17
(6)상스럽지만 이해를 돕는 좋은 예시라고 해야 하나.. 이해를 돕는 좋은 예시인데 상스럽다고 해야 하나…
(7)무이이야 2024-04-21 19:35:200
(8)베스트 웃자
(9)이거 그냥 코딩할 때 드문드문 나타나는 현상아님??이동
(10)아니 이게 왜 작동 되는거지?? 하면서
(1)크조 2024-04-21 02:50:49 이미지 텍스트 확인
(2)코딩하는데 필요한 필수 능력이 다섯가지인데, 네가지까지만 가지고있을때는 그 능력을 발휘하지 못하다가 다섯개가 되는순간 발휘되고 그런거아닌가. 실제 사람이 학습할때도 파편적인 정보들을 받아들이다가 그것들이 뭉쳐져서 한번에 확 하고 이해될때가있는것처럼
!