KPC AI-POT AI 프롬프트활용능력 2급
Chapter 5

AI 윤리 원칙 및 저작권

생성 AI 저작권 분쟁 예방, 환각(Hallucination) 현상 극복, 데이터 편향성 및 윤리 가이드라인 완벽 대비

Chapter 5 빈출 핵심 이론 요약

1. 생성 AI 저작권 분쟁 및 해결 방안

  • • AI 창작물의 저작권 주체: 현행 법제상 저작권은 인간의 창작적 노력에만 인정되므로, AI가 단독 생성한 출력물 자체는 저작권 보호 대상이 되지 않습니다.
  • • 학습 데이터 침해 위험: 저작권이 있는 타인의 예술적·문학적 작업물을 무단 복제하여 학습하거나 출력을 모방하는 경우 침해 분쟁이 발생할 수 있으므로 상업적 활용 시 출처 명시와 사전 검증이 필요합니다.

2. 환각(Hallucination) 현상과 편향성

  • • 환각 현상: AI가 사실이 아닌 잘못된 정보나 존재하지 않는 판례·문헌을 마치 진실처럼 그럴듯하게 생성해 내는 기술적 한계입니다.
  • • 편향성 (Bias): 학습 데이터에 내재된 인종, 성별, 문화적 편견이 출력 결과에 그대로 반영되어 왜곡된 결과를 초래하는 문제입니다.
  • • 인간 교정 (Human-in-the-loop): 최종 의사결정 시 반드시 인간의 검수와 사실 확인(Fact-checking)을 거쳐야 합니다.

3. 프롬프트 엔지니어를 위한 필수 윤리 가이드라인

  • • 개인정보 및 보안 관리: 회사 내부 기밀, 미공개 소스 코드, 주민등록번호나 개인 식별 정보(PII)를 공용 프롬프트에 입력하지 않도록 주의해야 합니다.
  • • 투명성 및 책임성: AI 활용 사실을 밝히고 딥페이크나 딥페이크 음성을 통한 사기·교란 행위를 방지하는 윤리적 책임의식을 지녀야 합니다.

Chapter 5 실전 기출 예상 문제 (20문항)

프롬프트 엔지니어링 업무활용과 윤리원칙 용어 바로가기 실전 CBT 모의고사로 풀기
문항 01

생성 AI 활용 시 발생하는 한계점 중, AI가 전혀 사실이 아니거나 존재하지 않는 정보를 마치 진실인 것처럼 그럴싸하게 거짓으로 답변하는 현상은?

  1. 오버피팅 (Overfitting)
  2. 환각 현상 (Hallucination)
  3. 편향성 (Bias)
  4. 토큰 이탈 (Token Overflow)
정답 및 상세 해설 보기
정답: 2번
환각(Hallucination) 현상은 LLM의 고질적인 한계 중 하나로, 업무에 활용 시 반드시 교차 검증 및 사실 확인이 필요합니다.
문항 02

현행 저작권법상 생성 AI가 인간의 구체적인 창작적 개입 없이 순수하게 스스로 단독 생성한 결과물에 대한 저작권 인정 여부는?

  1. 생성 AI 개발 회사에 자동으로 독점 저작권이 부여된다.
  2. AI 모델 자체에게 인격권과 저작권이 인정된다.
  3. 인간의 창작적 기여가 없는 한 원칙적으로 저작권이 인정되지 않는다.
  4. 해당 결과물을 처음 본 사람에게 저작권이 부여된다.
정답 및 상세 해설 보기
정답: 3번
저작물은 인간의 사상이나 감정을 표현한 창작물에 한하므로, 인간의 개입 없는纯 AI 단독 결과물은 저작권 보호를 받지 못하는 것이 원칙입니다.
문항 03

생성 AI 학습에 사용된 인터넷상의 기존 텍스트, 이미지 등 데이터와 관련하여 자주 수면 위로 오르는 주된 법적 쟁점은?

  1. 학습 데이터 무단 수집 및 저작권 침해 우려
  2. 컴퓨터 하드웨어 통신 속도 저하 문제
  3. 모바일 요금제 무제한 가입 권리
  4. 운영체제 무료 업데이트 권리
정답 및 상세 해설 보기
정답: 1번
창작자들의 허가 없이 저작물을 긁어모아 AI 학습에 사용했는지 여부가 저작권 및 공정 이용(Fair Use) 측면에서 핵심 분쟁거리입니다.
문항 04

생성 AI 프롬프트를 작성할 때 기업이나 개인 차원에서 절대 유출되어서는 안 되며 프롬프트 입력창에 넣는 것을 엄격히 금지해야 하는 정보는?

  1. 공개된 뉴스 기사의 제목
  2. 기업의 내부 영업 기밀, 미공개 소스 코드, 개인 식별 정보(PII)
  3. 위키백과에 수록된 세계 역사적 사실
  4. 파이썬 오픈소스 라이브러리 설명 문서
정답 및 상세 해설 보기
정답: 2번
기업 기밀이나 주민등록번호 등 개인정보가 포함된 데이터를 상용 프롬프트에 입력할 경우 재학습 및 데이터 유출로 이어질 수 있어 엄격히 금지됩니다.
문항 05

인간이 AI의 최종 판단이나 생성 결과물을 그대로 신뢰하지 않고 검수 및 교정에 직접 참여하는 윤리 및 업무적 방식을 일컫는 표현은?

  1. Human-in-the-loop (HITL)
  2. Full Auto Automation
  3. Zero Human Intervention
  4. Blackbox Process
정답 및 상세 해설 보기
정답: 1번
인간 개입(Human-in-the-loop) 과정은 AI의 오류나 윤리적 결함을 방지하기 위해 필수적으로 유지해야 할 검수 절차입니다.
문항 06

AI가 수집하고 학습한 방대한 빅데이터 내에 성별, 인종, 국적 등에 관한 편견이나 고정관념이 반영되어 왜곡된 결과를 출력하는 현상은?

  1. 알고리즘 편향성 (Algorithmic Bias)
  2. 데이터 오버클럭
  3. 양자화 오류
  4. 네트워크 지연
정답 및 상세 해설 보기
정답: 1번
데이터 및 알고리즘 편향성(Bias)은 사회적 불평등이나 고정관념을 강화할 수 있으므로 지속적인 필터링과 교정이 요구됩니다.
문항 07

생성 AI가 만든 가짜 영상이나 음성을 활용하여 타인의 명예를 훼손하거나 사기 범죄(보이스피싱 등)에 악용하는 합성 기술 범죄 현상은?

  1. 딥페이크 (Deepfake) 악용
  2. 프롬프트 튜닝
  3. RAG 시스템 구축
  4. 데이터 라벨링
정답 및 상세 해설 보기
정답: 1번
딥페이크(Deepfake) 기술의 악용은 심각한 사회적, 윤리적 해악을 끼치므로 워터마크 기술 도입 및 규제가 강조되고 있습니다.
문항 08

AI가 생성한 이미지나 문서 콘텐츠임을 사용자가 명확히 인식할 수 있도록 가시적·비가시적 식별 마크를 포함시키는 방안은?

  1. 디지털 워터마킹 (Digital Watermarking)
  2. 데이터 스크래핑
  3. 토큰 리사이클링
  4. 파이프라인 병렬화
정답 및 상세 해설 보기
정답: 1번
AI 생성물에 디지털 워터마크를 표시하면 딥페이크나 허위 정보의 유포를 막고 투명성을 확보할 수 있습니다.
문항 09

기업 내부 데이터를 공용 생성 AI 서비스에 입력할 때 정보 유출을 차단하기 위한 가장 적절한 조치는?

  1. 데이터 학습 활용 거부(Opt-out) 설정이나 기업 전용(Enterprise) 보안 환경 적용
  2. 사내 데이터를 모두 공개 게시판에 업로드
  3. AI에게 "이 데이터는 비밀이야"라고 말하기만 함
  4. 인터넷 브라우저의 쿠키만 삭제
정답 및 상세 해설 보기
정답: 1번
기업 전용 엔터프라이즈 요금제나 API 학습 활용 거부(Opt-out) 옵션을 활용해야 기밀 유출을 방지할 수 있습니다.
문항 10

생성 AI가 제시한 참고 문헌이나 인용 출처가 실제 존재하는지 확인하는 검수 절차를 가리키는 일반적 용어는?

  1. 팩트 체크 (Fact-checking) 및 원전 교차 검증
  2. 프롬프트 인젝션
  3. 코드 컴파일
  4. 오버피팅 테스트
정답 및 상세 해설 보기
정답: 1번
AI는 지어낸 출처나 존재하지 않는 URL을 제공하는 환각 현상을 보이므로 반드시 원전 교차 검증(Fact-checking)을 해야 합니다.
문항 11

유럽연합(EU) 등 세계 각국에서 제정 중인 AI 법안(AI Act)에서 고위험(High-Risk) AI 시스템에 요구하는 핵심 준수 사항이 아닌 것은?

  1. 투명성 및 인간의 감독 가능성 보장
  2. 위험 관리 시스템 구축 및 데이터 거버넌스 준수
  3. AI 시스템의 무조건적인 무제한 자율 판단권 승인
  4. 높은 수준의 사이버 보안 및 정확성 확보
정답 및 상세 해설 보기
정답: 3번
AI 규제법안은 고위험 AI에 대해 통제 없는 자율권을 부여하는 것이 아니라 통제권과 위험 관리, 투명성을 법적으로 요구합니다.
문항 12

유명 화가나 작가의 고유한 화풍이나 필체를 AI 프롬프트에 입력하여 유사한 이미지를 다량 생성 및 판매할 때 발생하는 윤리적·법적 문제점은?

  1. 원작자의 경제적 이익 침해 및 무단 모방에 따른 윤리적 분쟁
  2. 화가의 화폭 물감 재고가 줄어드는 문제
  3. 미술관의 조명 전력 소모 증대
  4. 컴퓨터 모니터의 색상 표현 한계 문제
정답 및 상세 해설 보기
정답: 1번
특정 작가의 스타일을 무단 모방하여 상업화하는 것은 원작자의 생계와 창작의욕을 해치는 심각한 윤리적 쟁점입니다.
문항 13

생성 AI가 도출한 법률 해석이나 의료 진단 조언을 검증 없이 사용했을 때 발생할 수 있는 가장 위험한 결과는?

  1. 잘못된 판단으로 인한 중대한 법적 패소 또는 인명 및 건강상의 치명적 피해 발생
  2. 모니터 화면이 밝아지는 현상
  3. 키보드 타이핑 속도 증가
  4. 프린터 종이 소모 감소
정답 및 상세 해설 보기
정답: 1번
의료, 법률, 금융 등의 전문 영역에서는 잘못된 정보가 막대한 피해를 줄 수 있으므로 반드시 전문 자격자의 최종 검수가 필수입니다.
문항 14

기업에서 생성 AI 도구를 업무에 도입할 때 윤리적 사각지대를 방지하기 위해 자체적으로 수립해야 하는 내부 준칙의 명칭은?

  1. AI 윤리 가이드라인 및 활용 가버넌스 (Governance)
  2. 하드웨어 유지보수 매뉴얼
  3. 사내 근로기준법 개정안
  4. 네트워크 속도 측정 지침
정답 및 상세 해설 보기
정답: 1번
기업은 AI 윤리 가이드라인과 데이터 거버넌스 정책을 수립하여 오남용과 법적 리스크를 예방해야 합니다.
문항 15

공공기관이나 언론사 등에서 생성 AI를 활용하여 기사나 보고서를 작성했을 때 대외적으로 준수해야 하는 올바른 태도는?

  1. AI 활용 사실을 완전히 숨기고 자신이 직접 다 썼다고 주장한다.
  2. AI 기술이 일부/전부 활용되었음을 알리는 명시적 출처 표기 (Transparency)
  3. 작성된 글을 즉시 삭제한다.
  4. 다른 사람의 이름으로 훔쳐서 기재한다.
정답 및 상세 해설 보기
정답: 2번
AI 생성물에 대한 투명성(Transparency) 확보를 위해 AI가 사용되었음을 알리는 출처 명시가 권장됩니다.
문항 16

생성 AI 학습 과정에서 특정 언어나 영어가 압도적인 비중을 차지하여 비영어권 문화나 가치관이 소외되는 현상을 가리키는 용어는?

  1. 문화적 편향 (Cultural Bias) / 언어 불균형
  2. 네트워크 병목 현상
  3. 임베딩 붕괴
  4. 토큰 정규화
정답 및 상세 해설 보기
정답: 1번
특정 서구권 및 영어 데이터 편중으로 인해 발생하는 문화적 편향성은 글로벌 AI 모델의 해결 과제입니다.
문항 17

프롬프트 엔지니어로서 AI 모델을 사용할 때 안전성 가이드라인을 뚫고 혐오 발언이나 위험물 제조 방법을 유도하는 프롬프트를 연구/유포하는 행위의 문제점은?

  1. AI 제품의 윤리적 안전망을 무력화하고 사회적 해악을 끼치는 직업 윤리 위반 행위
  2. 모범적인 프로그래밍 기술 권장 행위
  3. 아무런 윤리적 문제가 없는 자유로운 개인 행동
  4. 인공지능의 속도를 키워주는 유익한 시도
정답 및 상세 해설 보기
정답: 1번
탈옥 프롬프트를 의도적으로 악용하거나 악성 콘텐츠를 유포하는 것은 중대한 윤리적 위반입니다.
문항 18

인공지능이 생성한 거짓 정보(Fake News)가 SNS나 커뮤니티를 통해 급속도로 확산할 때 사회적으로 미치는 나쁜 영향은?

  1. 사회적 신뢰 자산 훼손 및 여론 교란, 불필요한 혼란 야기
  2. 인터넷 데이터 사용료 절감
  3. 컴퓨터 그래픽 카드 가격 안정화
  4. 사회적 단결력 급증
정답 및 상세 해설 보기
정답: 1번
AI 기반 가짜 뉴스와 오정보(Disinformation)는 여론 왜곡과 신뢰 자산 심각 훼손을 초래합니다.
문항 19

저작권 보호를 위해 생성 AI 사용자가 자신이 사용한 프롬프트에 저작권 있는 예술품의 무단 복제를 요청하지 않도록 주의하는 기본 원칙은?

  1. 타인의 정당한 지식재산권을 존중하고 무단 도용 프롬프트를 배제하는 윤리적 자율 준수
  2. 무조건 다 퍼가서 상업화하기
  3. 출처를 가짜로 지어내기
  4. 저작권 기호를 전부 지우기
정답 및 상세 해설 보기
정답: 1번
타인의 창작적 노력을 존중하고 지식재산권 침해 우려가 있는 지시문을 배제하는 성숙한 사용 태도가 필요합니다.
문항 20

프롬프트 엔지니어링 및 생성 AI 윤리에 대한 설명으로 가장 올바르지 않은 것은?

  1. AI 기술의 생산성 이면에는 환각, 저작권, 보안, 편향성 등의 리스크가 공존한다.
  2. 최종 산출물에 대한 모든 법적·윤리적 책임은 AI 모델 자체가 아니라 이를 활용하고 배포한 인간에게 있다.
  3. 기업 비밀이나 개인 식별 정보는 절대로 상용 공용 프롬프트에 유출되어서는 안 된다.
  4. AI는 모든 사실을 완벽히 참으로만 출력하므로 인간의 교정 검수(Human-in-the-loop) 과정은 전적으로 불필요하다.
정답 및 상세 해설 보기
정답: 4번
AI는 환각과 오류가 존재하므로 인간의 검수(Human-in-the-loop)가 필수적입니다.
Chapter 4 로 메인 홈으로 이동