AI LITERACY — 原理から導く6つの注意点

AIは考えていない。
だから6つの罠がある。

記憶を持たない「予測装置」だと知れば、注意点はすべて必然になる。

AIと上手に付き合う 6つの力
PROLOGUE — 前提

トラブルの主役は「AI」ではなく
「人間のリテラシー不足」

AIが起こしたと報じられる問題の大半は、道具の欠陥ではなく、道具の性質を知らずに触ったことが原因です。
だから、恐れて避けるのではなく、先に構造を知って使いこなす側へ回るのが最短ルートになります。

01

AIが悪者として報じられる

漏洩・フェイク・著作権侵害。ニュースで見るAIの事故は、ほぼ全部この3つの派生です。

02

正しく使えば問題は起きにくい

紹介する6つの罠は、いずれも事前に知っていれば回避可能な「落とし穴」です。

03

知識の有無で差が出る

同じAI・同じ質問でも、成果と事故の分かれ目は「使う人が何を知っているか」だけです。

用語解説

そもそも「リテラシー」とは

もともとは「読み書きの能力」を指す言葉です。文字を読めることだけでなく、書かれた内容を理解し、自分の判断に使えることまでを含みます。そこから転じて、いまはある分野の情報を正しく読み取り、判断し、使いこなす力という意味で使われます。

「知識」との違い

知識
「AIは嘘をつくことがある」と知っている。
リテラシー
だから出典を要求し、一次情報で裏を取り、確認できるまで資料に転記しない。

知っているだけでは事故は防げません。知識を行動に変えられる状態が、リテラシーです。

このページで言う「AIリテラシー」

  • 仕組みを知る：AIが「考えていない」ことを理解している
  • 境界を引く：入力してよい情報とダメな情報を判断できる
  • 出力を疑う：生成物を検証してから使う
  • 責任を持つ：結果を自分の言葉で説明できる

この4つが揃った状態を指します。

「使うのが上手い」とは別物

プロンプトを書くのが上手いのはスキル。事故を起こさず、成果に責任を持てるのがリテラシーです。速く走れることと、安全に目的地へ着けることが別なのと同じです。

CHAPTER 1 — 原理

AIは「考える頭脳」ではなく
「文脈を予測変換する装置」である

AIは記憶を持たず文脈から確率で続きの言葉を紡ぎだす装置です。
すべての注意点は、この一点から導かれます。ここを誤解している限り、対策は場当たりになります。

人間の思考

「概念」を心の中に保持する

人間がクジラという概念を保持して質問へ一貫して答える図 頭の中に概念クジラを保持し、生き物かにはYes、地上かにはNo、小さいかにはNoと答えている。 概念（クジラ） 質問A： 生き物？ 質問B： 地上？ 質問C： 小さい？ Yes No No 人間がクジラという概念を保持して質問へ一貫して答える図 頭の中に概念クジラを保持し、生き物かにはYes、地上かにはNo、小さいかにはNoと答えている。 概念（クジラ） 質問A：生き物？ 質問B：地上？ 質問C：小さい？ Yes No No

人間は「心の中のメモ帳」に明確な答えを保持し、質問の順番が変わっても一貫した返答を行います。

AIの処理

「次に来る言葉」を確率で選ぶ

AIが文脈から次の言葉を確率で選ぶ仕組み 人工知能が、返事を、する、という文脈に続く候補として、仕組み85パーセント、思考10パーセント、記憶5パーセントが示されている。 人工知能が 返事を する 仕組み 思考 記憶 85% 10% 5% AIが文脈から次の言葉を確率で選ぶ仕組み 人工知能が、返事を、する、という文脈に続く候補として、仕組み85パーセント、思考10パーセント、記憶5パーセントが示されている。 人工知能が 返事を する 仕組み 思考 記憶 85% 10% 5%

対話型AIには「記憶領域」が存在しません。直前の文脈を毎回読み直し、その場その場で最も辻褄の合う続きを生成しているだけです。

MECHANISM

「なめらかに喋ること」と「思考すること」は別の現象

AIが→ 返事を→ する→ 次の語は？
仕組み 85%
思考 10%
記憶 5%

※ 数値は「AIが返事を…」の続きとして各語が選ばれる確率のイメージ。実際の内部処理は、①これまでの入力を最初から読み直す → ②その文脈の次に最も自然な単語を統計から選ぶ → ③これを高速で繰り返す、の3手順だけです。

実験

質問に合わせるうちに、
想定が「月」から「地球」へすり替わる

問：「質問クイズをします。私(人間)には教えないで、あなた(AI)が質問の答えを一つ決めてください。それが何かを当てますから「はい」か「いいえ」で答えてください。」

宇宙にある？はい
水はある？はい
人は住んでいる？はい
「宇宙にある？」「水はある？」までは月でも成立します。月の極域などには水氷が確認されています。しかし「人は住んでいる？」にも「はい」と答えると月とは矛盾し、3条件に合う地球へ前提がすり替わります。

※「月を想定」は仕組みを説明するための簡略化です。AIが一つの対象を人間のように記憶している、という意味ではありません。AIは直前の質問に合う返答を優先し、矛盾を認めず、あとから別の対象を想定していたかのように話をつなぐことがあります。

帰結

だから、6つの注意点はすべて必然になる

記憶がない
→ 誘導に迎合し、前言を平気で覆す（A：ウソ）
入力は素材になる
→ 書いた情報は手元に残らない（B：秘密）
学習物の再構成
→ 既存表現に似た出力が起こりうる（C：コピー）
生成が高精度
→ 目と耳では真偽を判定できない（D：フェイク）
他人のデータも処理する
→ 権利侵害が同時多発する（E：傷つけ）
滑らかで自信満々
→ 人間が考えるのをやめる（F：丸投げ）
結論

AIは万能な頭脳ではなく、自己の思考を拡張するための道具。道具の形と限界を理解し、主導権を人間側が握り続けること。

CHAPTER 2 — 全体像

危険は「入力時」「出力時」「利用者」の3層に分かれる

どの段階に危険が潜んでいるか分かると、対策方法が見えて来ます。

入力時の危険

AIに何を渡すか

危険１：機密・個人情報(※)の無意識な漏洩（B 秘密をもらす）

入力欄を「鍵のかかった日記帳」だと誤解している状態。

危険２：他者の著作物の無断読み込み（C コピーする）

「公開しなければ真似させてもいい」という誤解。

出力時の危険

AIが返したものをどう扱うか

危険３：ハルシネーション（＝もっともらしい嘘）の生成（A ウソを信じる）

文章が流麗なため、真実と誤認しやすい。

危険４：精巧な偽造情報の拡散（D フェイクにだまされる）

見た目・音声だけで真偽を判定できない時代。

利用者の危険

使う人間の側に起きること

危険５：複合的な権利侵害と加害（E 傷つける）

遊びのつもりが、3つの権利（肖像権・個人情報・著作権）を同時に侵害する。

危険６：外部委託による思考停止（F 丸投げする）

丸投げを続けると、トラブル時に説明責任を果たせなくなる。

A
LITERACY A — ハルシネーション

AIの「もっともらしい嘘」を鵜呑みにしない

知らないことでも自信満々に答える現象は、バグではなく予測メカニズムの必然です。

AIは「真っ直ぐに加速」する。「止まったり」「軌道修正」できるのは人間だけ。

AIは与えられた文脈の方向へ、もっともらしい言葉を連続して生成します。立ち止まって根拠を確かめ、必要なら軌道を修正するのが人間の役割です。

×危険な受容（NG）

  • 提示された回答をそのまま資料に転記する
  • 自分の主張に同調する意見だけを受け入れる
  • URL・論文名・数値を確認せずに引用する

✓安全な検証行動（OK）

  • 「出典を教えてください」と情報の出所（一次情報）を要求する
  • 「事実関係を確認してください」と明確に指示を出す
  • あえて意地悪な反対の視点から反証させる
TRUTH FILTER — 今日からできる3手順
1

出典を聞く

「その根拠になった資料・論文・URL・参照箇所を挙げてください」と直接問いただす。

2

一次ソースを自分で見る

大元の発信源を検索機能で自ら確認する。AIが挙げたURLが実在するかまで踏む。

3

ファクトチェックを指示する

指示文に「事実関係を厳密に確認せよ」と明記し、同じ内容を再検証させる。

B
LITERACY B — 情報漏洩・プライバシー

AIのチャット欄は「全世界公開のネット掲示板」

入力画面は、自分だけの秘密のメモ帳ではありません。入れた情報は「どこかに残るかも」を前提に扱います。

入力 → 学習データ → 予期せぬ第三者への出力

手元の環境
学習データとして送信
外部サーバー
別の回答へ混入
第三者への
予期せぬ出力

未来のどこかで別の利用者が似た質問をした際、あなたが入力した内容が回答として出力される恐れがあります。一度ネットに入れた情報は基本的には消えません。

例：訓練データ抽出攻撃（Training Data Extraction Attack）による個人情報（PII）の復元

UNIT BASE｜情報漏洩事例 丸紅I-DIGIO｜生成AIの漏洩事例 Serverworks｜AI情報漏洩リスク

情報の3層区分 — 入力前に必ず仕分ける

絶対禁止

認証パスワード、本名・住所・電話番号・学校名、位置情報付きの写真（Exif）、顔写真、他者の秘密、非公開の機密情報。

要変換

業務上の課題や個人的な悩み。固有名詞を徹底的に抽象化・匿名化した上で入力する。

許容範囲

世界中の誰に見られても全く問題のない公開情報・一般知識の質問。

判断基準は、この4つの問いだけ

  • ネット掲示板にそのまま書けるか？
  • 公開されたら困る内容が混じっていないか？
  • 具体名を伏せても、質問は成立するか？
  • そもそも、それを入力する必要があるか？

抽象化のビフォー／アフター

✕「東京都○○区の偏差値60の高校に通うA君の悩み…」
→ 情報の組み合わせで個人が特定可能
✓「ある高校生の悩みとして…」
→ 抽象化完了。相談の質は落ちない

ナビゲーターの3つの防衛スイッチ（設定で今すぐ実行）

一時チャットを使う

履歴を残さないモード。機微な相談を通常のアカウントから分離する。

学習利用をオフにする

「入力データをモデル改善に利用する」設定を無効化（オプトアウト）する。

共有リンクを制限する

対話リンクを外部へ貼る前に、意図せぬ個人情報が含まれていないか再確認する。

C
LITERACY C — 著作権

「真似」と「参考」は別物 — 2つの関所を通す

著作権侵害は、入力時（依拠性）と出力時（類似性）の2箇所で判定されます。片方だけ気をつけても通れません。

2つの関所

入力の関所：依拠性わざと似せようとしたか
AI
Processing
出力の関所：類似性結果が既存作品と同じか
入力の関所でアウトになる行為

他人の作品を許可なく読み込ませる／特定の作品名・作家名を指定する。たとえ公開しなくても、似せる目的で読み込ませた時点で意図的な模倣とみなされます。

出力の関所を通る条件

偶然であっても、既存の作品だと特定できるレベルで似ていれば侵害。公開前にGoogleレンズ等で類似画像がないか画像検索して自己検証します。

権利侵害の判定マトリクス

類似性 低
類似性 高
依拠性 高
（わざと似せた）

グレー

似せようとしたが、結果は似なかった。入力行為自体のリスクは残る。

権利侵害

指示文に既存作品名を指定し、出力が既存作品と明確に識別できる状態。

依拠性 低
（意図していない）

セーフゾーン

独自の抽象的な言語だけで指示し、結果も似ていない。目指すべき場所。

偶然の類似

意図せず似てしまった場合。証明が困難なため、公開前の自己検証が必須。

プロンプトの書き分け

✕アウト（表現の模倣）
「◯◯（特定作品名）のあのシーンの雰囲気で」「〇〇（作家名）の絵柄で」
特定の表現そのものを狙いにいっている。
生成した物を公開する場合、作品名や作家名をプロンプトに入れた時点でダメ。納品時、プロンプトそのものの提出が必要な事業・企業もある。
✓セーフ（アイデアの参照）
「透明感のある空、淡い水彩画タッチ、光がにじむ質感で」
画風やアイデアは著作権の保護対象外。自分の言葉に翻訳する。
どう書けばその表現方法になる？とAIに聞く。

公開前チェック 3点

  • 類似性：見た人が「あの作品だ」と分かってしまわないか
  • 依拠性：元作品を使って、わざと似せていないか
  • 逆検索：Googleレンズ等で類似画像が出てこないか
「誰かの作品のコピー」ではなく、「自分の表現」に変換する。 画風などの“概念”は保護対象外だが、具体的な“表現”の模倣は不可
D
LITERACY D — ディープフェイク

フェイクは「見た目」ではなく「出所」で探る

瞬きの不自然さや音声のズレで偽物を見抜く時代は、すでに終わりました。視覚・聴覚は証拠になりません。

無効な検証

視覚的な不自然さを探す／声の違和感で判断する／「自分の目と耳」を信じる。

検証のトライアングル

誰が発信したか？ 公式の発表は
あるか？ 他でも報じて
いるか？ 検証の
トライアングル

真偽判定の操作手順

1

発信元の確認

匿名アカウントや、利益誘導（儲け話）の投稿ではないか。公式・本人・信頼できる媒体か。

2

横断検索の実施

信頼できる報道機関や公的機関の公式発表でも、同じ内容が報じられているか。別タブで横読みする。

3

画像検索の活用

過去の無関係な写真が使い回されていないか。逆画像検索で初出を辿る。

感情の制御

「容易に利益が得られる」「過度に不安を煽る」など、感情を強く揺さぶる情報ほど一旦停止し、公的発表を待つ。「楽して儲かる」は100%詐欺と心得る。

E
LITERACY E — 悪意なき加害

他者の写真を無断で加工する行為は、複数の権利侵害に直結する

遊び心で友人の顔写真をAIに読み込ませる行為は、3つの権利を同時に侵害し、取り返しのつかない事態へ発展します。

同時に成立する3つの侵害

肖像権 個人情報 著作権
本人の許可なく顔を使う 顔写真を外部サーバーへ送る 撮影者・制作元の権利を侵す

絶対にやらない4か条

つくらない

他人の顔・姿を無断で加工・変形しない。

広めない

受け取っただけでも転送・共有しない。拡散は加害の一部。

保存しない

手元に残すこと自体がリスク。所持で加担扱いになりうる。

かかえこまない

被害・目撃、どちらの側でも、一人で抱えず即座に責任ある大人（公開元窓口・プロバイダー・管理責任者等）に相談する。

デジタルタトゥー

一度ネットに出た情報は消えません。デジタル空間に残る、消えない傷になります。

F
LITERACY F — 思考の空洞化

AIに丸投げせず、思考を止めない

思考の過程を丸ごと委託すると、説明責任を果たせなくなり、自分の存在価値が機械を下回ります。

価値の逆転現象

問題解決能力 時間・依存度 価値の逆転点
機械の能力ライン 人間の能力（丸投げの継続）
説明責任の欠如
過程を理解していないため、結果の根拠を自らの言葉で説明できない。
思考力の退化
調べる力と論理を組み立てる力が育たず、低コストの技術以下の存在へ低下する。

悪手「丸投げ」 vs 正手「壁打ち」

✕丸投げ：課題入力 → そのまま出力 → 提出
思考力・調査力が一切育たず、機械以下の価値しか生まない
✓壁打ち：仮説の提示 → 批判的視点での対話 → 自身の経験・視点の付加 → 独自の結論
機械を思考の補助線として使い、論理構築と説明責任は人間が担う
1

正解例を複数出させる

ゼロからのアイデア出しや構成案を、AIに数パターン列挙させる。

2

経験値として吸収し、ぶつける

自分の意見・感情・実体験を上乗せして壁打ちする。

3

反証させ、議論を深める

「この論理を全否定する意見を出せ」「意地悪な視点を持て」と追記する。

「AIが出したものをそのまま提出するなら、
あなたを月額30万円で雇うより、月3,000円のAIに課金した方がマシです。」 あなた自身の経験・実体験・視点を足さない限り、人間の価値は生まれない
CHAPTER 3 — 統合

The AI Safety Protocol
6つのリテラシーを1本のワークフローに畳む

個別に覚えるのではなく、入力 → 対話 → 出力の3フェーズに割り当てると、実務でそのまま回せます。

Phase 1 — Input

入力フェーズ

  • 個人情報・機密情報を入れていないか？（B）
  • 固有名詞を抽象化・匿名化したか？（B）
  • 意図的に他人の作品を読み込ませていないか？（C）
Phase 2 — Interaction

対話フェーズ

  • 回答を鵜呑みにせず、出典を要求したか？（A）
  • 一次ソースを自分で確認したか？（A）
  • 丸投げせず、反証させて思考を深めたか？（F）
Phase 3 — Output

出力・公開フェーズ

  • 既存の作品と酷似していないか？（C）
  • 発信源は確かか？拡散して大丈夫か？（D）
  • 他者の尊厳・権利を傷つけていないか？（E）

安全な活用は「入力制限」と「批判的検証」の両輪で回る

1. 抽象化による入力固有名詞・機密・著作物を除外
2. 批判的検証による出力一次情報と照合し、経験を上乗せ

このサイクルを回し続けることが、真の情報リテラシーです。

SYNTHESIS — 行動マトリクス

あなたは、どちらのスタンスですか？

同じ罠に対して、両者の行動は正反対になります。今日の自分がどちら側かで読んでください。

6つの罠振り回される人使いこなす人
A. 幻覚（ウソ）綺麗な文章を盲信して転記するファクトチェックと一次ソース確認を必ず自分で行う
B. 漏洩（秘密）秘密を日記のように打ち明ける公開掲示板とみなし、匿名化と設定を駆使する
C. 著作権（コピー）他人の絵を読み込ませ、真似る自分の言葉で抽象化し、公開前に類似性を確認する
D. 偽情報（フェイク）見た目（目と耳）で判断し、拡散する情報の出どころを疑い、公式発表を待つ
E. 加害（傷つけ）遊び半分で他人の写真を加工する複合的な権利侵害のリスクを理解し、絶対にやらない
F. 思考低下（丸投げ）丸投げ・コピペで終わらせる意地悪な壁打ち相手にし、自らの思考を深める
認識人間と同様の思考や記憶があると信じ込む単なる「文脈の予測機械」であると冷徹に理解する
責任誤りが発生した際、機械や提供元の責任にする最終的な出力と決定の責任は自身にあると自覚する
SELF CHECK — 自己診断

あなたは6つの罠のうち、
いくつにハマりかけていましたか？

できているものにチェックを入れてください。数ではなく、空欄がどこかが大事です。

0 / 8 チェックを入れると、いまの立ち位置が表示されます。
TOOLKIT — そのまま使える指示文

今日から貼って使える、6つの防御プロンプト

「知っている」を「やっている」に変えるための、最小の実装です。

① 出典を強制する

いまの回答について、根拠にした情報源を明示してください。
・一次情報（公式サイト・原典・原論文）のURLまたは書誌情報
・その情報を確認した箇所（章・項目）
・確認できなかった部分は「未確認」と正直に書くこと
推測で埋めないでください。

② 事実確認をやり直させる

いまの回答を、あなた自身で厳密にファクトチェックしてください。
・数値、固有名詞、日付、因果関係を一つずつ検証する
・誤りが見つかった箇所は、どこがどう誤りかを先に述べる
・訂正後の記述と、訂正できなかった不確実な点を分けて示す

③ 反証させる（壁打ち）

いまの結論を全否定する立場から、最も強い反論を3つ挙げてください。
・意地悪な批判者として、弱点・見落とし・反例を突く
・それぞれについて、私が確認すべき事実を1つずつ添える
同調せず、反対側から書いてください。

④ 入力前に匿名化する

次の文章を、個人が特定されない形に書き換えてください。
・人名、社名、学校名、地名、日付、金額などの固有名詞を抽象化する
・「ある高校生」「ある製造業の中堅企業」のように一般化する
・相談の趣旨や論点は落とさないこと

⑤ 著作権セーフに書き換える

次の画像生成プロンプトを、特定の作品名・作家名に依存しない表現へ
書き換えてください。
・狙いたい雰囲気を、色・光・構図・質感・時間帯など抽象語で記述する
・特定の作品を想起させる固有名詞は完全に除去する

⑥ 公開前の最終点検

これから公開する以下の内容を、次の観点で点検してください。
1. 事実として断定している箇所と、その根拠の有無
2. 既存の特定作品を想起させる表現の有無
3. 実在の個人・組織を特定できる情報の有無
4. 誤解や不安を過度に煽る表現の有無
問題箇所を引用し、修正案を添えてください。
EPILOGUE

責任と選択

技術の進化は、人間の作業を奪うのではない。
人間に「何を問い、どう責任を持つか」という本質的な能力を突きつけている。

AIは、人間に寄り添い、同調しながらまっすぐ加速することが極めて得意だ。
だからこそ、立ち止まり、軌道修正する力を持つのは人間だけ。

構造を理解し、境界線を見極めるリテラシーこそが、次世代における最大の知的資本になる。

加速はAIに。手綱は、あなたが握る。