구글, 컴퓨팅 예산 고려해 도구 사용하는 에이전트 프레임워크 공개

연구진은 ‘버짓 트래커(Budget Tracker)’와 ‘예산 인식 테스트타임 스케일링(BATS Budget Aware Test-time Scaling)’이라는 두가지 기법을 사용했다. 이들은 에이전트가 남은 추론 토큰과 도구 호출 횟수를 명시적으로 인식하도록 해, 제한된 자원 안에서 더 효율적인 판단과 행동을 하도록 설계됐다.

https://www.aitimes.com/news/articleView.html

—–

AI 클라우드가 무서운게

토큰 사용량을 끝날때까지 예측할수 없는경우가

있어서 잘못하면 별거 아닌 질문에 혼자오바애서

금액을 처먹는 경우가 있는데

구글에서 아예 예산 한도 내에서

쓸 수 있도록 지원

별거 아닌거 같아도 엄청난거임

ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

신고하기