reasoning 정보 보기

W&B Inference 응답에서 reasoning을 반환하고 확인하는 방법

OpenAI의 GPT OSS 20B와 같은 reasoning 모델은 최종 답변뿐 아니라, 반환되는 출력의 일부로 reasoning step에 대한 정보도 포함합니다. 이는 자동으로 제공되며 추가 입력 parameter는 필요하지 않습니다.

모델이 reasoning을 지원하는지 여부는 UI에서 해당 카탈로그 페이지의 Supported Features section을 확인하여 알 수 있습니다.

reasoning 정보는 응답의 reasoning 필드에서 확인할 수 있습니다. 이 필드의 값은 non-reasoning 모델의 응답에서 null입니다.

Python

import openai

client = openai.OpenAI(
    base_url='https://api.inference.wandb.ai/v1',
    api_key="<your-api-key>",  # https://wandb.ai/settings에서 API 키를 생성하세요
)

response = client.chat.completions.create(
    model="openai/gpt-oss-20b",
    messages=[
        {"role": "user", "content": "3.11 and 3.8, which is greater?"}
    ],
)

print(response.choices[0].message.reasoning)
print("--------------------------------")
print(response.choices[0].message.content)

Bash

curl https://api.inference.wandb.ai/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <your-api-key>" \
  -d '{
    "model": "openai/gpt-oss-20b",
    "messages": [
      { "role": "user", "content": "3.11 and 3.8, which is greater?" }
    ]
  }'