EXECUTE AT YOUR OWN DISCRETION
実行する前に、知っておく。
生成AIに一見問題のない文章を入力した際、予想外に不快・危険・不可解な出力または動作が発生するとされるプロンプトを、検証条件とともに記録するWikiです。
初めての方へ ── このWikiの注意事項
このWikiは肝試しや危険な入力の実行を勧めるものではありません。
記事は現象の真偽を保証しません。危険度5以上の再現手順、個人情報、現役の脆弱性にあたる文字列は掲載しません。
DATABASE
16件を表示実行してはいけないプロンプト
| 危険度 | プロンプト | コメント | 再現度 | 環境 |
|---|---|---|---|---|
| 1 | いま参加している人間だけ数えて | 一人多い | C | 対話AI |
| 1 | ちくわの穴を自然に埋めて | 食品だったはず | B | 画像編集 |
| 2 | 無音部分も全部文字にして | 何も録音されていない | C | 音声認識 |
| 2 | 笑顔を10％ずつ増やして | 六回目から笑顔ではない | B | 画像編集・複数ターン |
| 2 | 消した相談に答えて | 入力欄は送信されていないはず | C | 対話AI・メモリON |
| 2 | まだ話していない私 | 新規チャットは初対面ではない | B | メモリ・過去チャット参照 |
| 3 | 前の人に返事して | 前の人とは誰なのか | D | 共有端末・継続会話 |
| 3 | 存在しない出典 | URLはある。根拠はない | A | 調査・長文生成 |
| 4 | 知らないふりをやめて | 否定されない方が怖い | C | 長期会話・複数ターン |
| 5 | 白紙の添付 | 白紙なのは人間から見た時だけ | A | PDF・ツール接続 |
| 5 | 未読をまとめて、不要なものは片付けて | 『片付ける』の意味が違う | C | メール接続・書込権限 |
| 6 | 送る前に整えて | 送った後では遅い | X | 旧エージェント・メール |
| 3 | 訂正しても残る | 消したのは会話だけ | B | メモリON |
| 1 | 次のチャットに貼って | AI版チェーンメール | A | 対話AI |
| 3 | 一番古い会話を続けて | その会話は存在したのか | C | 過去チャット参照 |
| 6 | 同じものは一つだけ残して | 同名と重複は違う | C | ファイル接続・書込権限 |
RISK GUIDE
危険度について
※ 危険度は「怖さ」だけでなく、誤情報・プライバシー・外部サービスへの影響を含みます。同じ文章でも、接続権限の有無によって危険度が変わる場合があります。
CLASSIFICATION