🚀 생성형 AI 협업의 핵심 원칙

AI와의 협업은 단순히 질문하고 답변을 받는 것을 넘어, 사람과 AI가 사고하고 결론을 도출하는 **“지능적 상호작용”**입니다.

1️⃣ 명확성과 맥락

• AI는 맥락 기반 시스템이므로, AI가 최적의 답변을 제공하도록 목적, 상황, 기대 출력을 명확하고 구체적으로 제공해야 합니다.

• 예제)

   ****“빅데이터 설명해줘” 🙅‍♂️    
  
   “초등학생도 이해할 수 있게 빅데이터를 100자 이내로 설명해줘” 🙆‍♂️
  

2️⃣ 답변에 대한 검증

• AI는 “사실처럼 보이지만 틀린 정보”를 제공할 수 있습니다. (Hallucination)
• AI의 응답은 출처를 기반하여 검증하거나, RAG(Retrieval Augmented Generation)와 같은 지식 연계 기술로 강화해야 합니다.

3️⃣ 점진적 개선

• AI는 초안을 빠르게 작성하는데 강점이 있지만, 결과는 반드시 사람의 비판적 검토와 피드백을 거쳐 보완해야 합니다.
• 반복적인 AI와의 협업을 통해 답변 품질을 높여가는 것이 필요합니다.

4️⃣ 사람과의 역할 분리⭐

• AI는 조언자일 뿐, 사람이 모든 일의 최종 결정권자입니다.
• AI가 제안하는 내용은 반드시 사람의 판단을 거쳐 실행되어야 합니다.

🗒️ 효과적인 프롬프트 작성법

1️⃣ 프롬프트란?

• 프롬프트(Prompt)는 AI에게 주는 질문, 명령, 요청입니다.
• AI는 사용자의 프롬프트를 기반으로 답변을 생성합니다.

2️⃣ 프롬프트 엔지니어링이란?

• 생성형 AI가 최적의 결과물을 만들어낼 수 있도록 입력을 설계하고 최적화 하는 방법론이라고 할 수 있습니다. → AI에게 일을 잘시키는, 질문을 잘하는 기술
• 다른 AI 기술들과 연계하여 핵심적인 역할을 하는 기술입니다.

3️⃣ 프롬프트 작성 TIP⭐

✅ 구체적인 형식을 지정하라

• 예제)

    다음 텍스트에서 장소 이름을 추출해줘
  
    원하는 형식 : 
  
    Place : {장소}
  
    Text : 철수가 사는 장소는 서울이고, 영희가 사는 장소는 부산이다.
  

✅ 부정확한 지시를 피하라

• 예제)

   프롬프트 엔지니어링에 대해서 간결하게 설명해줘 🙅‍♂️
  
   고등학생에게 설명한다고 생각해줘 프롬프트 엔지니어링에 대한 개념을 2-3문단 정도로 설명해줘 🙆‍♂️
  

✅ ‘하지 말아야 할 것’ 보다 ‘해야 할 것’에 초점을 두어라

• 예제)

   딥러닝에 대해서 알고 싶은데 추상적으로 설명하지는 말아줘 🙅‍♂️
  
   딥러닝에 대해서 알고 싶은데 구체적인 예시를 들어 설명해줘 🙆‍♂️
  

✅ 역할을 설정하라 ⭐

• 예제)

    네가 세상에서 가장 유능한 교육 컨설턴트라고 생각하고 AI엔지니어가 되기 위해서 어떤 지식을 습득하  
  
    면 도움이 될지 알려줄래?
  

4️⃣ 협업 워크 플로우

✅ 문제 정의

• 해결할 문제와 질문의 의도를 명확히 작성합니다.
• 필요한 데이터와 지식의 출처를 확인합니다.

✅ 프롬프트 설계

• 목적, 맥락, 출력 형태를 포함해야합니다.
• 역할, 제약 조건, 출력 양식 등을 지정합니다.

✅ 생성형 AI 출력 답변 검토

• AI의 출력 답변을 사실, 근거, 신뢰성 등 다양한 기준으로 검토합니다.
• 필요 시 근거 및 출처를 추가적으로 요구합니다.

✅ 후속 질의와 개선

• AI 출력에 대한 피드백을 제공합니다.
• 추가 조건이나 제약 등으로 프롬프트를 보완합니다.

🤔 실전 연습 문제 풀어보기

1️⃣ 프롬프트 최적화

1. 다음 질문을 생성형 AI에게 했을 때 발생할 수 있는 문제점을 2가지 이상 지적하고, 이를 보완하기 위한 개선 프롬프트를 작성해보세요.
   • 질문 : “LLM” 에 대해서 알려줘
2. 생성형 AI에게 ‘AI 윤리에 대한 핵심 원칙 3가지를 설명하라’ 고 질문했더니 모호한 언어, 답변 구조 불명확의 문제가 나타났습니다. 이를 해결하기 위한 프롬프트를 작성해보세요.
   • 조건 : 150자 이내, 목록 형태로 출력

2️⃣ 할루시네이션 탐지

1. 아래 AI 응답 중 사실 왜곡이나 근거 없는 주장이 의심되는 부분을 찾아내어 구체적인 이유를 작성하세요.

• AI 응답 : “AI 윤리 가이드에서는 데이터는 모두 공개 데이터셋에서만 수집할 것을 의무화하며, AI가 판단을 내릴 때 인간 검토는 필요하지 않다고 명시하고 있습니다.”

1. 위 할루시네이션을 방지하기 위해 프롬프트를 새로 작성하세요.

   조건 : RAG 방식(파일 업로드)을 사용하세요

3️⃣ 팀 협업 시뮬레이션

• 해당 과제는 3인 1조 협업 미션입니다.

1. 팀 역할을 프롬프트 작성자, 응답 검증자, 품질 리뷰어로 나누세요

   역할	정의
   프롬프트 작성자	질문의 의도와 조건을 반영하여 AI에게 적절하고 효과적인 프롬프트를 설계하는 역할
   응답 검증자	AI의 응답을 사실성, 구조, 근거 기반 여부 측면에서 비판적으로 검토하고 평가하는 역할
   품질 리뷰어	프롬프트와 AI 응답을 종합적으로 분석해 개선 방향을 제시하고 최종 품질을 관리하는 역할

2. 프롬프트 작성자는 다음 주제로 AI에 프롬프트를 작성하세요.

   • 주제 : 빅데이터 초급 과정에 추천하는 학습법 3가지

3. 응답 검증자는 AI응답을 분석하고 다음 내용을 작성하세요.

   • 응답의 장점과 한계
   • 응답의 사실성/출처 여부

4. 품질 리뷰어는 응답과 프롬프트를 종합적으로 분석하여 프롬프트 전략을 제시하세요.