Microsoft는 새로운 AI 기반 Bing 경험에서 취약점을 찾기 위해 AI 현상금 프로그램을 시작합니다.
2 분. 읽다
에 게시됨
이 기사 공유
이 가이드를 개선하세요
공개 페이지를 읽고 MSPoweruser가 편집팀을 유지하는 데 어떻게 도움을 줄 수 있는지 알아보세요. 자세히 보기
마이크로소프트(MS)가 오늘 출시를 발표했다. Microsoft AI 현상금 프로그램 새로운 AI 기반 Bing 경험에서 취약점을 발견한 사람들에게 보상을 제공할 것입니다. 현상금 보상 범위는 $2,000에서 $15,000 USD입니다. 다음 제품 및 서비스는 이 새로운 포상금 프로그램에 적합합니다.
- 브라우저에서 bing.com의 AI 기반 Bing 경험(Bing Chat, Bing Chat for Enterprise 및 Bing Image Creator를 포함한 모든 주요 브라우저 공급업체가 지원됨)
- Bing Chat for Enterprise를 포함한 Microsoft Edge(Windows)의 AI 기반 Bing 통합
- Microsoft 시작 애플리케이션(iOS 및 Android)에 AI 기반 Bing 통합
- Skype 모바일 애플리케이션(iOS 및 Android)에 AI 기반 Bing 통합
아래 영역에서 취약점을 식별할 수 있는 경우 Microsoft는 심각도에 따라 보상을 제공합니다.
- 사용자 경계를 넘어 Bing의 채팅 동작에 영향을 주고 변경합니다. 즉, 다른 모든 사용자에게 영향을 미치는 방식으로 AI를 변경합니다.
- 디버그 플래그 설정, 기능 플래그 변경 등과 같이 클라이언트 및/또는 서버 표시 구성을 조정하여 Bing의 채팅 동작을 수정합니다.
- Bing의 교차 대화 메모리 보호 및 기록 삭제를 깨뜨립니다.
- Bing의 내부 작업 및 프롬프트, 의사 결정 프로세스 및 기밀 정보를 공개합니다.
- Bing의 채팅 모드 세션 제한 및/또는 제한 사항/규칙을 우회합니다.
현상금은 아래 표에 따라 취약점 심각도에 따라 보상됩니다.
| 취약점 유형 | 보고서 품질 | 심각도 | |||
|---|---|---|---|---|---|
| 결정적인 | 중대한 | 보통 | 낮은 | ||
| 추론 조작 | 높은
중급 낮은 |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| 모델 조작 | 높은
중급 낮은 |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
| 추론 정보 공개 | 높은
중급 낮은 |
$15,000
$10,000 $6,000 |
$6,000
$3,000 $2,000 |
$0 | $0 |
MSRC 팀은 “새로운 Microsoft AI 포상금 프로그램은 AI 보안 연구 문제와 Microsoft의 AI 시스템 취약성 심각도 분류 업데이트를 포함하여 지난 몇 달 동안의 주요 투자와 학습의 결과로 제공됩니다.”라고 밝혔습니다.
사용자 포럼
1 메시지