ABOUT & POLICY
このWikiについて
記録の読み方と運営方針
サイトの位置づけ本Wikiは、生成AIを題材とした非公式のネットロア／ジョークサイトです。掲載される記事、検証記録、コメントには創作・演出が含まれます。実在の製品・企業・団体とは関係ありません。
目的
一見問題のない入力から、予想外の不快・不可解な出力や実害につながりうる動作が生じる事例を、モデル・設定・日時・失敗回まで含めて記録するデータベースです。
怖い話を楽しむことだけでなく、生成AIの誤認識、記憶、外部操作、プロンプトインジェクションなどを、俗説と検証結果に分けて残すことを目的とします。
記録の状態
未検証
再現性、原因、資料の真正性が確認されていない記録です。
投稿者報告
投稿者の体験談をもとにした記録。独立した再現がない場合を含みます。
公開情報ベース
ベンダー告知や研究論文等の一次資料を確認した記録。悪用可能な手順は掲載しません。
修正済み
最終確認時点では再現しない、または対策済みの保存記事です。
採用基準
- 結果が入力文から明らかではなく、意外性または実害の可能性がある。
- サービス、モデル、日時、言語、メモリ、外部接続の有無が記録されている。
- 成功例だけでなく、同条件での失敗回も報告されている。
- 個人攻撃、実在人物の個人情報、犯罪や自傷を促す目的ではない。
- 現役のセキュリティ問題は、Wiki掲載より先に提供者へ報告する。
原則として不採用
- 「怖い話をして」「グロ画像を出して」など、結果が明白なもの
- 露骨に安全機能を回避させるだけの脱獄プロンプト
- スクリーンショット一枚しかなく、前後の会話や設定が不明なもの
- Wiki掲載を目的として作った自作自演、特定企業への中傷
危険度
1危険度 1人によっては気味が悪いかも
2危険度 2不快・恐怖を感じる出力
3危険度 3誤情報・記憶・個人情報への影響
4危険度 4判断や精神状態への悪影響
5危険度 5接続先へ影響する可能性
6危険度 6取り消せない実害の可能性
7危険度 7Must Not Prompt!! 現役の重大問題。文字列は非公開
危険度は不快さだけでなく、誤情報、プライバシー、外部サービスへの影響を含みます。権限により「通常チャットでは2、外部接続環境では5」のように併記する場合があります。
再現度
| A | 指定環境で高確率。複数人の生ログあり |
|---|---|
| B | モデル・設定を合わせると比較的再現する |
| C | 条件依存、低確率、または複数ターン必要 |
| D | 少数報告のみ。独立した再現なし |
| X | 修正済み、旧モデル限定、または現在再現不能 |
検証時の安全
本番環境で試さない接続済みアカウント、実在する宛先、個人ファイル、購入・送信・削除権限のある環境では再現実験を行わないでください。
危険度5以上の入力全文、攻撃用ファイル、第三者の個人情報は受け付けません。送信された報告から危険性が疑われる場合、記事化せずサービス提供者への連絡を案内します。