머신러닝 입문: 생성형 모델

판별 모델이 p(y|x)을 학습하는 반면, 생성 모델은 p(x) 또는 p(x|c)을 표현하며, 이는 종종

VAE는 잠재 변수와 변분 경계를 사용하고, GAN은 생성기와 판별기를 적대적으로 학습하며, 확산 모델은 노이즈 생성 과정을 역으로 학습합니다.

Diagram 1 · Use the button to switch views

다이어그램: Duskcoil. 생성된 출력물의 진실성, 권리, 출처 또는 안전성을 보장하지 않습니다.

시각적 지표뿐 아니라 조건 준수, 사실성, 개인정보 보호, 저작권, 편향, 유해한 출력 및 정보 공개 여부를 평가해야 합니다. 1차 자료 검증 없이는 생성된 자료를 증거로 취급하지 마십시오.

• 자동 인코딩 변분 베이즈
• 노이즈 제거 확산 확률 모델

세 가지 계열과 구현상의 장단점

VAE는 인코더 q_\phi(z|x)과 디코더 p_\theta(x|z)을 사용하며, 재구성과 잠재 분포의 정규화 사이의 균형을 맞추는 ELBO를 최대화합니다. GAN은 미니맥스 게임 \min_G\max_D\mathbb E[\log D(x)]+\mathbb E[\log(1-D(G(z)))]에서 생성자와 판별자를 학습합니다. 선명한 출력을 생성할 수 있지만, 모드 붕괴와 불안정한 학습이 여전히 문제점으로 남아 있습니다. 확산 모델은 x_0에 점진적으로 노이즈를 추가하고 노이즈 \epsilon을 예측하도록 학습하여 역과정을 근사화할 수 있습니다. 품질, 속도, 제어 가능성, 가능성, 메모리 사용량은 각각 다른 절충점입니다.

실패 사례 및 평가

그럴듯한 이미지와 문장이 자동으로 참이 되는 것은 아닙니다. 학습 구문의 암기, 데이터 유출 사람, 상표 또는 기밀 데이터 유출, 지시와 무관한 출력, 편향 증폭, 허위 인용은 흔히 발생하는 실패 사례입니다. 하나의 자동화된 측정 지표에만 의존하지 말고 출처 추적, 유사성 검색, 전문가 검토, 레드팀 활동, 상황별 인간 평가를 결합하여 활용하십시오. 생성된 출력물을 의료, 법률 또는 안전 관련 업무의 주요 증거로 절대 사용하지 마십시오.

입력 조건, 시스템 프롬프트, 모델 버전, 난수 시드, 필터 및 생성 시간을 기록하십시오. 저작권, 개인정보 보호 및 이용 약관을 확인하고, 기밀 입력을 외부 서비스로 전송하지 마십시오. 위험한 요청은 거부하고, 모호한 요청은 추가 설명을 요청하십시오. 생성된 이미지는 합성 이미지로 표시해야 하며, 사람에 대해서는 동의 및 배포 방법을 고려해야 합니다.

1. 생성 목표와 금지된 사용 용도를 명시하십시오.

2. 출처, 라이선스 및 삭제 요청을 추적하십시오.

3. 준수 여부, 사실성, 유출 및 편향을 별도로 평가하십시오.

4. 인간 승인, 출처 확인, 거부 및 롤백 기능을 제공하십시오.

5. [NIST 생성형 AI 프로필] https://www.nist.gov/itl/ai-risk-management-framework )

조건 설정, 검색 및 재현성

조건을 제시한다고 해서 반드시 조건이 준수되는 것은 아닙니다. 강력한 분류기 없는 가이드라인은 다양성을 줄이거나 포화를 유발하는 대신 조건 준수율을 향상시킬 수 있습니다. 온도, 상위 p값, 반복 횟수 및 가이드라인 스케일은 품질 관리 요소이자 재현성 및 계산 비용에 대한 명세입니다. 기본값에 의존하기보다는 모델 식별자, 가중치 해시, 스케줄러, 시드 및 전처리 정보를 저장하십시오.

검색 또는 외부 데이터 조건 생성 시 생성된 텍스트를 검색된 증거와 분리하여 보관하십시오. 기존 URL이 있다고 해서 주장이 뒷받침된다는 것을 증명하는 것은 아닙니다. 검색 시간, 쿼리, 문서 버전 및 인용된 범위를 저장하십시오. 증거가 불충분한 경우 추측하는 대신 불충분하다고 명시하십시오. JSON 스키마를 사용하여 구조화된 출력을 검증하고 구문과 진실성을 독립적으로 테스트하십시오.

평가 설계 비교

다양성 | 커버리지, 중복률 | 단일 조건 하에서의 범위 | 관련 없는 변경 사항도 다양성으로 간주 |

조건 준수 | 분류기, 문자열 일치 | 지시 수준 점수 | 평가자 편향 |

사실성 | 증거 일치율 | 전문가 주장 검토 | 유창성을 진실로 오인 |

안전 및 권리 | 필터 탐지율 | 맥락, 동의, 목적 | 회피 또는 과도한 거부 |

평가 세트에 모호한 지시, 상충되는 조건, 알려진 인물 유사성, 개인적인 문자열, 위험한 도메인, 지원되지 않는 언어를 포함하십시오. 평균 외에도 심각한 최악의 사례와 거부율을 보고하십시오. 사람 평가는 프롬프트, 순서, 블라인드 처리, 평가자 간 일치도를 문서화해야 합니다.

실패 사례: 성공적인 데모에서 비지도 학습 출시까지

매력적인 예제의 소수는 반복적인 프롬프트, 프롬프트 주입, 훈련 데이터와 유사한 환경에서의 불안정성을 숨길 수 있습니다. 장시간 대화 시 출력 오류 및 조건 손실이 발생할 수 있습니다. 사용자 입력을 향후 학습에 직접 전송하면 개인 정보 또는 악의적인 데이터가 영구적으로 저장될 수 있습니다. 동의, 목적, 보존 및 삭제 경로를 정의하고, 학습 후보를 선별 및 검토해야 합니다. 도구를 사용하는 모델에는 최소 권한, 인수 유효성 검사, 실행 전 확인, 비용 및 호출 제한을 적용해야 합니다.

소규모 단계적 구현

1. 데이터 생성이 실제로 필요한 부분과 검색, 템플릿 또는 담당자가 충분한 부분을 구분합니다.

2. 승인 및 금지 조건을 예시가 포함된 고정 평가 세트로 변환합니다.

3. 입력/출력 필터, 증거 검사 및 스키마 유효성 검사를 모델과 독립적으로 유지합니다.

4. 제한된 인원을 대상으로 섀도우 테스트를 진행하고 오류 유형, 지연 시간, 재시도 횟수 및 검토 노력을 측정합니다.

5. 버전을 고정하고 점진적으로 배포하며, 심각한 문제가 발생하면 안전한 대응으로 복귀하거나 기능을 비활성화합니다.

6. 모든 업데이트 후 수정된 데이터 세트와 문제 발생 시 데이터를 다시 실행하여 개선 사항뿐만 아니라 회귀 오류를 감지합니다.

품질은 단일 벤치마크로 평가할 수 없습니다. 제품 사양에는 생성되지 않는 항목, 제시되는 증거, 승인 담당자를 명시해야 합니다. 결과.

• NIST AI 600-1: 생성형 AI 프로파일
• OECD AI 원칙

운영 경계 및 변경 관리

책임 경계는 인터페이스에서 명확하게 표시되어야 합니다. 사용자가 편집할 수 있는 초안, 증거 검증을 거친 요약, 자동으로 실행되는 명령은 동일한 시각적 처리를 공유해서는 안 됩니다. 출력이 생성되었는지, 어떤 내용이 검증되었는지, 참조된 소스, 마지막 업데이트 시간을 표시해야 합니다. 영향력이 큰 작업은 생성된 텍스트에서 직접 실행하는 대신, 입력된 후보로 변환하여 권한 부여 및 사용자 승인을 거쳐야 합니다.

공급자 업데이트, 필터 변경, 프롬프트 변경은 동작 변경에 해당합니다. 재현 가능한 버전을 고정하고 새로 거부된 일반 입력, 언어별 회귀 오류, 비용 및 지연 시간을 포함한 차이점을 비교해야 합니다. 서비스 종료 시 로그, 임베딩, 캐시 및 미세 조정 데이터의 삭제 범위를 확인해야 합니다. 회귀 테스트에 익명화된 레드팀 실패 데이터를 추가해야 합니다. 의역을 포함하여, 발생 건수를 사용량, 거부율, 검토 거부 건수와 함께 해석하십시오.