프롬프트 엔지니어링 [1]

프롬프트 엔지니어링(Prompt Engineering)이란?

Prompt : 사용자가 텍스트 입력을 통해 모델의 출력을 유도하는 방법론

ex) 대한민국으로 4행시 해줘

 

Prompt Engineering : 모델의 입력 텍스트를 조정해서 성능을 끌어올리는 방법

 

모델이 Prompt의 미세한 변화를 인지할 수 있는 능력이 있다고 가정

Q : 반가워요!

A : 저도 반가워요!

 

변화 후

 

Q : 반가워요..

A : 저도 반가워요. 무슨 문제가 있으신가요?

 

이렇게 다른 답변을 유도할 수 있다.

Prompt Engineering 기법

'Few Shot, Chain-of-Thought, ReAct, Generated Knowledge, Self-Consistency, Prompt Chaining, Least-to-Most'

중요한것이 뭐고, 어떻게 사용해야 성능을 올릴 수 있는지 알아보자. 명확하게 어느 기법을 사용해야하는 정답은 존재하지 않는다.

 

가장 중요한 점!

명확한 평가 기준과 반복적인 테스팅을 통해 가장 좋은 결과를 주는 Prompt를 찾아가는 것

 

주의할 점!

1. 동일한 프롬프트더라도 모델마다 효과가 다를 수 있다.

2. 모델의 인지 능력이 어느 정도 좋아야 한다. 경량 모델의 경우 잘 작동하지 않을 수 있다.

3. 프롬프트 엔지니어링의 성능 상승 추세는 선형적이지 않을 수 있다.

4. 학습이 완성된 모델의 성능을 추가로 끌어올리는 기법이다 보니 효용이 충분하지 않을 수 있다.

 

Summary

• 적은 비용, 빠르게 해볼 수 있는 이점
• 단순하게 성능이 부족한 상황에서는 프롬프트 엔지니어링에서 시작
• 서비스에 생성형 AI기술이 필요할 때 성능이 부족하나 상황에서 선택 할 수 있는 옵션 중 하나
• 특정 도메인 지식 혹은 외부 지식이 요구되면 Fine-Tuning 또는 다른 방법 권장