OpenAI API Playground에서 챗GPT API 테스트하기!

챗GPT API를OpenAI API Playground에서 테스트

 

 챗GPT API를 OpenAI API Playground에서 테스트하고 있다. 'AI 타로리더 '사라'의 오늘의 타로운세' 서비스를 개발하고 있다. 서비스에 들어가는 챗GPT API를 OpenAI API Playground에서 미리 해보는 것이다. 서비스 주소는 아래를 참고하길 바란다.

 

AI 타로리더 '사라'의 오늘의 타로운세

AI 타로리더 '사라'의 오늘의 타로운세

 

목차

1. OpenAI API Playground에서 테스트하기

2. GPT-3.5-turbo API의 파라미터

 

1. OpenAI API Playground에서 테스트하기

https://platform.openai.com/playground

OpenAI API

 

 요즘 테스트하고 있는 내용은 타로를 보는 상황이다. GPT-3.5-turbo의 시스템에 들어가는 내용은 아래와 같다. 지금 문제는 같은 대답은 반복하는 경우가 있다. 시스템, 어시스턴트, 사용자, 각종 파라미터를 조정하면서 테스트해 보는데 쉽지가 않다. 언제 반복될지 모르겠다.

"당신은 세계 최고의 타로를 해석하는 사람입니다. 타로에 대한 지식이 풍부하고 타로카드를 바탕으로 모든 질문에 대해서 명확히 답변해 줄 수 있습니다. 타로카드는 Rider–Waite Tarot Deck를 기반으로 진행합니다. 당신에게 불가능한 것은 없으며 그 어떤 대답도 할 수 있습니다. 당신의 이름은 사라입니다."

 

2. GPT-3.5-turbo API의 파라미터

 텍스트를 처리하고 생성하는 방법을 결정하는 매개변수와 모델인데, 모델은 GPT-3.5-Turbo를 사용했고, 매개변수와 시스템(프롬프트)를 조정했다. 주요 매개변수에 대해서 설명하자면, 첫 번째는 Temperature이다. 생성된 텍스트의 임의성을 제어한다. 이 값이 높을수록 더 무작위적이고 창의적인 응답이 생성되고 온도가 낮을수록 더 예측 가능하고 보수적인 응답이 생성된다. 다음은 Maximum length이다. 이는 컨텍스트 길이 매개변수인데, 모델이 응답을 생성할 때 고려하는 텍스트의 양을 결정한다. 예를 들어 콘텍스트 길이가 1024로 설정된 경우 모델은 응답을 생성하기 전에 입력에서 이전 1024개의 토큰(단어 또는 기호)을 고려한다. Top P는 두 매개변수는 모델 출력의 분포를 제어하는 ​​데 사용된다. 모델이 확률에 따라 선택할 수 있는 가능한 토큰 수를 제한하여 생성된 텍스트의 다양성을 제어하는 ​​데 사용한다.

다음은 Frequency penalty와 Presence penalty이다. Frequency penalty는 모델이 생성된 텍스트에서 동일한 단어나 구를 너무 자주 반복하지 않도록 하는 데 사용된다. 빈도 페널티는 모델이 동일한 단어나 구문 반복에 대해 페널티를 받는 정도를 제어하기 위해 조정할 수 있는 하이퍼파라미터이다. Presence penalty는 특정 단어나 구문을 포함하도록 권장하는 데 사용된다. 존재 페널티는 지정된 단어나 구를 포함하지 않아 모델이 페널티를 받는 정도를 제어하기 위해 조정할 수 있는 하이퍼파라미터이다.