프롬프트 엔지니어링 업무 활용과 윤리 원칙 전체 용어 정리
한국생산성본부(KPC) 공식 출제 기준에 맞춘 Chapter 5의 모든 핵심 용어와 개념(저작권 문제 해결, 환각 현상, 편향성 및 윤리 원칙)을 총망라하여 정리했습니다.
환각 현상 및 알고리즘 편향성
환각 현상 (Hallucination)
LLM의 고질적인 한계로, AI가 사실이 아닌 정보나 존재하지 않는 판례·문헌을 마치 진실인 것처럼 확신에 찬 어조로 그럴듯하게 거짓 생성해내는 오류 현상입니다.
알고리즘 편향성 (Algorithmic Bias)
AI가 학습한 방대한 빅데이터 내에 내재된 고정관념, 성별·인종·국적 등에 관한 편견이 반영되어 왜곡되거나 차별적인 결과물을 출력하는 현상입니다.
교차 검증 (Cross-Verification)
환각 현상이나 오류를 바로잡기 위해 AI의 답변을 신뢰하기 전 공식 문서, 신뢰할 수 있는 데이터베이스 등 외부 원천 자료와 대조하여 사실 여부를 확인하는 실무 검증 절차입니다.
문화적 편향 (Cultural Bias)
특정 언어나 서구권 데이터 편중으로 인해 비영어권 문화나 가치관이 소외되거나 왜곡되어 출력되는 현상입니다.
저작권 문제 해결 방안 및 지식재산권
저작권 침해 및 무단 수집 (Copyright & Data Scraping)
인터넷상의 기존 텍스트, 이미지, 소스 코드 등의 데이터를 무단으로 수집·학습하는 과정과, AI 산출물에 대한 권리 귀속을 둘러싼 법적 쟁점입니다.
디지털 워터마킹 (Digital Watermarking)
AI가 생성한 이미지나 문서 콘텐츠임을 사용자가 명확히 인식할 수 있도록 가시적·비가시적 식별 마크를 포함시켜 투명성을 확보하는 방안입니다.
지식재산권 존중 및 자율 준수
타인의 정당한 저작물과 화풍을 무단 모방하거나 복제하는 지시문을 프롬프트에 포함하지 않도록 준수하는 윤리적 태도입니다.
프롬프트 엔지니어를 위한 윤리 원칙 및 보안
Human-in-the-loop (HITL, 인간 참여형 검수)
AI가 도출한 최종 판단이나 생성 결과물을 맹신하지 않고, 교정 및 검수 과정에 인간이 직접 개입하여 오류나 리스크를 통제하는 방식입니다.
민감 정보 및 개인 식별 정보 (PII) 보호
주민등록번호, 연락처, 금융 정보 등 프라이버시 침해 및 보안 유출 사고를 일으킬 수 있는 엄격한 보호 대상 정보입니다.
영업 기밀 및 내부 소스 코드 보호
기업 내부의 미공개 비즈니스 전략, 소스 코드 등이 공용 프롬프트 시스템에 입력되어 외부로 유출되지 않도록 통제하는 보안 원칙입니다.
딥페이크 악용 방지 (Deepfake Prevention)
인공지능 합성 기술을 활용해 타인의 얼굴이나 음성을 정교하게 조작하여 명예 훼손, 허위사실 유포 등에 악용하는 역기능을 차단하는 윤리적 방안입니다.
책임성 원칙 (Accountability)
AI 기술이 가져오는 리스크 속에서, 최종 산출물과 활용에 대한 모든 법적·윤리적 책임은 AI 모델 자체가 아니라 이를 사용한 인간에게 있다는 원칙입니다.
AI 윤리 가이드라인 및 거버넌스
조직 내에서 AI 기술을 다룰 때 악의적 프롬프트 사용을 방지하고 투명성과 유해성 차단을 실천하기 위해 수립하는 준칙입니다.