비전 모델을 포함한 LLM용 단일 함수 Jev 스타일 래퍼

LLM에 선택지를 문자로 제시하고 토큰 로그 확률 을 읽어, 분류 결과와 참일 확률, 순서형 점수를 반환하는 단일 Python 함수 score() 를 구현함 긴 답변 대신 선택지 문자 하나 를 생성하도록 요청해 출력 시간을 줄임. 입력 처리 비용은 남지만, 백엔드...

긱뉴스에서 원문 보기