AI에 대한 컨텍스트 과부하 공격 위험
설명
예를 들어, 많은 수의 토큰으로 프롬프트에 과부하가 걸리면 모델이 취약한 상태가 될 수 있습니다.
컨텍스트 과부하 공격이 파운데이션 모델에 문제가 되는 이유는 무엇인가요?
컨텍스트 과부하 공격은 모델 동작을 변경하여 공격자에게 이득을 주는 데 사용될 수 있습니다. 생성된 콘텐츠로 인해 사용자 또는 타인에게 피해를 줄 수 있습니다.
상위 주제: AI 리스크 아틀라스
언론에 보도된 사례를 통해 재단 모델의 여러 가지 위험성을 설명합니다. 언론에서 다루는 이러한 사건 중 상당수는 아직 진행 중이거나 해결된 상태이므로 이를 참고하면 잠재적 위험을 이해하고 완화 조치를 취하는 데 도움이 될 수 있습니다. 이러한 예시는 예시를 보여주기 위한 것일 뿐입니다.