📦제품엔비디아, '반복 퍼즐' 기술로 추론 효율 극대화…운영 비용 절반으로엔비디아가 LLM 배포 및 추론 비용 절감을 위한 최적화 모델 '네모트론-랩스-3-퍼즐-75B-A9B'를 선보였다.엔비디아LLM추론 효율AI타임스1분 · 2개월 전
🔬연구오픈AI, '컴퓨트 멀티플라이어’로 추론 비용 절반으로 줄여오픈AI가 AI 모델 추론 비용을 절반 이상 줄일 수 있는 새로운 최적화 기술 '컴퓨트 멀티플라이어'를 개발했다.오픈AIAI 최적화추론 비용AI타임스1분 · 3개월 전