좋은 AI 프롬프트 작성 방법

좋은 AI 프롬프트를 작성하고 팔로업하는 방법만 알면 AI로 놀라운 일들을 할 수 있습니다.

하지만 저는 그러지 못했죠. 그래서 동료인 AI 엔지니어 테오 블레이어(Theo Bleier)와 이야기를 나눴는데, 그는 Notion AI에서 사용되는 사전 구성 프롬프트를 손보는 데 며칠이나 걸리곤 합니다. 테오에게 문의한 내용을 바탕으로, 생성형 AI의 놀라운 힘을 활용해 업무와 삶을 향상시킬 수 있는 방법을 설명해 드릴게요.

참고: 이 게시물의 모든 프롬프트와 응답은 Notion AI를 사용했지만, 기본 원칙은 모든 표준 대형 언어 모델(LLM)에서 유사하게 적용됩니다.

Notion AI, ChatGPT, Llama와 같은 대형 언어 모델(LLM)은 수백만 권의 책, 웹 페이지 등에 해당하는 방대한 양의 언어로 구성된 데이터 세트를 사용합니다. 모델은 이 수십억 개의 문장에 포함된 각 단어(또는 단어의 일부)를 토큰으로 변환한 다음, 각 토큰이 데이터 세트의 다른 토큰과 나란히 사용되는 빈도에 따라 토큰 순위를 매깁니다.

AI 모델에 요청을 지시하면 이 순위를 사용하여 분석하고 이상적인 응답으로 생각되는 내용을 출력합니다. 간단한 프롬프트의 경우 이 과정은 매우 간단해 보입니다.

그러나 LLM은 때때로 창의적인 반응을 생성하기 위해 토큰 순위에서 벗어나는 경우가 있는데, 이를 '생성형 AI'라고 부릅니다. 그 결과는 무서울 정도로 정확할 때도 있죠.

언어 모델의 토큰 순위 전략은 어떻게 복잡한 언어 및 대화 능력을 산출할까요? 이에 대해서는 여전히 활발한 연구가 이루어지고 있는데요, 하지만 AI를 잘 사용하기 위해 이 과정을 완전히 이해할 필요는 없습니다.

생성형 AI 모델은 정확한 문구에만 효과적으로 반응하는 Siri나 Google Assistant와는 다릅니다. 수많은 대화에 대한 훈련을 받은 언어 모델은 사람들이 서로 대화하고 문자를 보내는 방식의 모든 뉘앙스를 알고 있습니다. 실제 사람에게 말하는 것처럼 말하면 더 나은(더 인간적인) 응답을 얻을 수 있습니다.

요청에 관련된 모든 사항을 자세히 설명하면서 프롬프트는 최대한 간결하게 만드세요(자세한 내용은 나중에 더 알려드릴게요). 언어가 명확할수록 모델이 단어를 잘못 해석할 가능성이 줄어듭니다(이에 대해서도 나중에 자세한 설명이 나와요).

"...을 하지 마세요"라고 말하면 LLM은 "마세요"는 무시한 채 "하다"에만 집중하여 하지 말라고 지시한 행동을 정확히 수행할 수 있습니다. 예를 들어 볼까요?

나쁜 예:불완전한 리스트를 포함하지 마세요.

좋은 예:완전한 목록만 포함하세요.

이제 LLM과 대화하는 방법에 대해 알아봤으니 다음 주제로 넘어갈게요. 저는 일반적인 시장 분석가에게 필요할만한 연구 프로젝트를 예로 들었지만, 학업부터 연말 파티를 위한 멋진 메뉴를 구성하는 방법에 이르기까지, AI에게 물어볼 수 있는 내용은 무궁무진합니다. 기본 원칙은 동일합니다.

우리가 스포츠 용품 회사의 시장 분석가로서 새로운 캠핑 장비 라인을 출시하기 위해 가장 적합한 미국 도시에 대한 보고서를 작성해야 한다고 가정해 보겠습니다. 어떻게 물어봐야 할까요?

모델에 시장 분석가의 업무를 맡기고 싶으신가요? 이렇게 말하면서 시작해 보세요.

네, 조금 이상하게 보일 수 있지만 효과가 있습니다. LLM은 인간의 언어를 학습합니다. 모델에 시장 분석가 역할을 수행하도록 지시하면 실제 시장 분석가와 관련된 토큰 패턴을 강조합니다. 이런 관점에서 보면 모델에 정체성을 부여하는 것은 그리 이상한 일이 아니죠. 프롬프트에 응답하기도 전에

정체성을 부여하는 것이 어색하게 느껴질 수 있지만 꽤 효과가 있답니다.

언어 모델은 한 번에 하나의 토큰씩 이해합니다. 모든 토큰을 참고하기 때문에 간결성, 정확성이 중요합니다. 애매한 요청은 AI가 이해하기 어려울 수도 있습니다.

이 응답에서는 의미있는 응답을 출력하기 위한 정보가 충분하지 않다는 것을 지적하고 있습니다. 조금 수정해 볼까요?

앗, 위치를 구체적으로 말해주길 원했는데요.

프롬프트를 약간만 조정해도 AI응답이 얼마나 크게 변했는지 아시겠나요? 프롬프트를 더 많이 수정하면 어떤 응답이 나올지 궁금해지네요.

명확한 AI 응답으로 원하는 결과를 얻기 위한 몇 가지 팁을 공유해 드릴게요.

지금까지의 프롬프트는 매우 간단했습니다. 그러나 LLM은 방대한 양의 데이터를 처리할 수 있습니다. 즉, 프롬프트를 작성하는 데 능숙해지면 훨씬 더 많은 프롬프트를 요청할 수 있습니다. 실제로 Notion AI가 ChatGPT와 같은 LLM에 비해 가지는 장점 중 하나는 빈 페이지에서 시작하는 대신 기존 페이지에서 시작하여 AI에게 "위의 가이드라인에 따라..." 또는 "위 표의 통계를 사용해서..."와 같은 것을 요청에 포함할 수 있다는 것이죠.

프롬프트에 예상되는 문제나 필요한 의사결정 사항 등을 추가하는 것도 방법입니다.

예시를 볼까요? AI가 덴버, 시애틀, 오스틴, 미니애폴리스 이렇게 네 개의 도시를 선택했죠. 그런데 프롬프트에 연간 15cm 이상의 눈이 내리는 도시만을 대상으로 하라고 추가하자, 앵커리지와 벌링턴을 시애틀과 오스틴으로 바꾸고 각 도시의 총 적설량을 강조하는 쪽으로 결과가 변경되었습니다.

하지만 이것이 정말 이상적인 결과일까요? 뉴욕시에는 연간 58cm의 눈이 내립니다. 캠핑 장비를 판매하는 데 있어 뉴욕보다 앵커리지가 더 적절한 게 맞을까요?

여기에는 프롬프트 작성에 대한 몇 가지 교훈이 있습니다.

한 가지 교훈은 언어 모델은 예측이 불가능할 수 있고 심지어 실수를 할 수도 있다는 것입니다. 우리의 AI는 앵커리지가 '미국에서 눈이 가장 많이 내리는 도시(연간 평균 257cm)'라고 보고합니다. 검색 결과 앵커리지에는 연평균 약 196cm의 눈이 내리고 미국에서 가장 눈이 많이 내리는 도시는 뉴욕주 버팔로로 연 약 279cm 이상의 눈이 내린다고 합니다. 실제로 며칠 후 모델에게 같은 질문을 하면 더 정확한 결과를 도출하는 것을 볼 수 있습니다.

전문가들은 생성적 AI 모델이 주기적으로 잘못된 결과를 뱉어내는 성향을 AI의 '환각'이라고 부릅니다. 따라서 정확한 결과를 얻기 위해서는 그때그때 모델의 방향성을 잡아주는 것도 필요하겠죠.

지금까지 우리는 AI에게 인터넷에서 정보를 수집하도록 요청했습니다. 그러나 LLM의 가장 강력한 기술은 언어로, 언어를 이해하고, 활용하고, 바꾸고, 개선하는 것입니다.

AI는 마케팅 캠페인을 실행할 도시를 선정하는 데 도움을 주었습니다. 최종 보고서에서는 각 도시에 대한 정보를 다듬어 보다 완성된 결론을 얻을 수 있도록 해보겠습니다. 이를 위해 프롬프트에 'few-shot' 예시를 포함할 건데요, few-shot 예시란 모델에 넣을 입력 + 모델이 생성하길 원하는 출력의 예시를 의미합니다. 예시에 더해, 도시에 대한 메모도 추가할게요.

꽤 훌륭하죠? 시간이 좀 걸렸지만, 모델을 사용해 인터넷 정보를 찾고, 정보를 제안하고, 우리가 선택한 정보를 글로 바꾸게 하는 것 까지 배웠습니다. 이번엔 AI가 인구 수치까지 정확하게 맞혔네요.

그렇지만 확인해보니 AI가 솔트레이크시티 주변 산에 연간 약 1,270cm의 눈이 내린다는 점은 빼놓았다는 것을 알게 되었습니다. 그것도 요약에 포함되어야 하지 않을까요?

지금쯤 프롬프트에 대한 두 번째 교훈을 느끼셨을 것 같네요. 바로 프롬프트 작성은 많은 품이 드는 일이란 사실이죠! 인간은 수만 년 동안 서로 소통해 왔지만, 언어 모델과 소통하는 방법을 연구한 것은 채 몇 달밖에 되지 않았습니다. 우리가 제대로 하고 있는지 어떻게 알 수 있을까요? 프롬프트를 무한정 조정해야 하는 걸까요?

그것도 물론 가능하죠. AI에 대한 중요한 인사이트이기도 합니다. 더 많은 노력을 기할수록, 더 바람직한 결과를 얻는다는 것이죠. AI는 우리의 능력을 무효화하는 게 아니라 우리의 능력을 보완하여 혼자 힘으로는 도달할 수 없을 레벨로 우리를 안내합니다.

물론 이제 시작에 불과합니다.미래에는 AI가 어떤 놀라운 일을 해낼 수 있을까요?한계는 없으니최대로 활용하고 즐기는 법을 배워 봅시다.