경상국립대학교 컴퓨터과학전공 Jobday 전문가 초청특강 후기

연사: 신한은행 박○○

주제: ChatGPT을 활용한 prompt engineering
시간: 2023년 6월 26일  10:00

 

Prompt Engineering이란?

ChatGPT를 잘 활용하기 위해 적절한 명령을 주는 것.

ChatGPT에게 제한점을 적절하게 주는 것.

 

ChatGPT를 기반으로 만드는 서비스의 장점과 단점

langchain

 

장점:

매끄러운 문장 자동생성

문맥 파악

글 요약, 비교, 정리 등 

 

단점:

Hallucination: 그럴듯하지만 불확실한 정보 제공

내부 정보 사용 불가능

수학 계산식 어려움

 

ChatGPT의 한계와 해결 방안

• 토큰 수 관리 토큰은 곧 비용
• 질문이 많아지면, 문맥 파악 어려움
  •  연구결과 5~15개까지 같은 주제로 질문한다?
• 질문에 대한 적절한 내부DB를 어떻게 가져오나?
  • information retrieval 
  • 벡터검색 알고리즘 도입 (Pinecone)

 

프롬프트 구성

1. Instruction
2. 기존 채팅 이력
3. 질문 내용
4. 검색 결과

 

instructuon

지시문. ChatGPT에게 해야할 일을 구체적이고 명확하게 제시함.

예시

"I want you to act as a travel guide. I will write you my location and you will suggest a place to visit near my location. In some cases, I will also give you the type of places I will visit. You will also suggest me places of similar type that are close to my first location. My first suggestion request is “I am in Korea/Seoul and I want to visit only museums.""

 

기존 채팅 이력

사용자와 나눈 이야기를 입력하여 문맥 파악

 

질문 내용

현재 사용자가 던진 질문 분석

 

검색 결과

적절한 정보를 내부 DB에서 검색

 

시퀀스 다이어그램 같이 자세한 정보는 쓰면 안될 것 같아서 안 쓰겠음

Prompt Engineering을 공부하는 법

• 조그마한 프로젝트라도 직접 해보라
•  어떻게?
  • 강연자도 신한은행에서 직접 데이터 받아서 만든 것 아님.
  • 신한은행 웹사이트 크롤링하여, 서비스 개발했음.
  • 이 정도면 나도 할 수 있겠는데
• LLMOps 진로가 참 밝은 것 같다.
  • www.allganize.ai

취업 정보

• 최신 기술 팔로우하라!
• 전공성적은 절대 따로 볼 수 없다. 인사 담당자는 총 학점만 알 수 있다.
• 영어, 자격증, 코딩테스트 중간만 해라
  • 너무 힘 쏟지 말자. 커트라인만 넘기자.
  • 점수 1점 올릴 시간에 개발경험이나 쌓아라
• 기술 면접이 제일 중요
  • 이 일을 하기 위한 준비가 되었나?
  • 문제 해결 과정 솔직하게 말하기
  • 이 문제를 해결하기 위해 무슨 고민을 해봤나?
  • 난관에 부딪혔을 때 어떻게 문제를 정의하고, 어떻게 문제를 해결했나?
• 많은 토이프로젝트, 포트폴리오
  • 성공 사례만 자랑하는 것. 좋지 않다.
  • 실패 경험도 경험이다. 실패한 원인, 문제점을 찾아 분석하여 잘 정리하라
• 세미나 많이 듣고 견문을 넓혀라

 

잡설

금융권 취업하면 본인이 성장하기 어렵다?

옛날에는 그랬는데, 요즘에는 아님.

 

워라벨?

최고다.

 

자기가 다니는 은행에서 대출 못 받음