してはいけない事例で学ぶ！医療・介護・福祉現場の生成AI活用術とシャドーAI対策

概要

「してはいけない」事例から、生成AIとの付き合い方を学ぶ

　生成AIの活用は、医療・福祉・介護の現場にも広がり始めています。しかし、「まだ関係ない」「どう使えばよいかわからない」といった理由で、運用指針が曖昧なままになっているケースも少なくありません。
　本書は、現場で起こりがちな「失敗事例」から、生成AI活用におけるリスクとその対処方法を整理した一冊です。個人情報の取り扱いや著作権といった基礎知識を押さえたうえで、目的外利用や不適切な活用など、実際に起こり得る問題を取り上げ、「なぜ問題になるのか」「どう防ぐのか」を具体的に解説します。

　生成AIを活用するには、現場での共通理解と適切なルール整備が欠かせません。何が許され、何が禁止されているのかを整理しないまま使うことは、意図しない違反やトラブルにつながります。「便利だから」と流れで使うのではなく、注意点や問題点を理解したうえでの活用が求められています。
　本書は、基礎知識の整理から実務上の対応策までを一体的に学べる構成となっています。生成AIを安全に導入・運用するための実践的な指針として、現場での判断に役立ちます。



本書の電子書籍版はEPUBリフロー形式でご提供しています。
※ご利用の電子書籍ストアやビューアにより、文字サイズ変更、読み上げなど利用可能な機能は異なる場合があります。

目次

はじめに

基礎編
　そもそも「生成AI」とは？
　　生成AI の基本的な仕組み
　　大規模言語モデルは「それらしい文章」を生成するだけ
　　医療・介護・福祉現場での生成AI 活用例
　　無料版と有料版の違い
　そもそも「個人情報」とは？
　　個人情報保護法での定義
　　医療・介護・福祉現場での「要配慮個人情報」
　　AI と個人情報の関係
　　AI への個人情報の入力は「第三者提供」か「委託」か？
　　越境移転規制
　　医療現場で守るべき「3 省2 ガイドライン」とは？
　　「匿名加工情報」とは何か？
　そもそも「著作権」とは？
　　著作権の基本
　　医療・介護・福祉現場での著作権の注意点
　　「引用」のルール
　　AI と著作権の関係
　　AI はあくまで「道具」である
　　倫理的判断をAI 任せにする危険性
　　支援現場での理想的なAI の使い方
　基礎編のまとめ

事例編
　【Case01】　　メール文作成のためにChatGPT の無料版を利用して，患者の個人情報を入力してしまった
　【Case02】　　面談記録を作成するため，本人にバレないように録音してしまった
　【Case03】　　患者の同意を取得せずに，新しいAI ツールを導入してしまった
　【Case04】　　実習で私物のスマホを利用してカルテの写真を撮影し，AI を使ってレポートを作成してしまった
　【Case05】　　ChatGPT に困難事例を相談し，回答履歴のURL をSNS に投稿してしまった
　【Case06】　　発達障害のある方がAI に依存しているのを放置して，支援者との信頼関係が崩れてしまった
　【Case07】　　AI が作成した診療記録を鵜呑みにして，薬の名前を間違えて認識してしまった
　【Case08】　　リハビリプログラムをAI に丸投げして作ってしまった
　【Case09】　　Google Workspace を導入済みの医療機関なので問題ないと考えGemini に患者情報を入力してしまった
　【Case10】　　妄想をAI が助長してしまい，交通事故につながってしまった
　【Case11】　　商用利用不可の生成AI で作った画像を，施設のパンフレットに使ってしまった
　【Case12】　　AI に電子カルテのパスワードを入力してしまい，不正アクセスにつながった
　【Case13】　　AI が生成した架空の参考文献を，研究発表にそのまま掲載してしまった
　【Case14】　　カフェの公衆Wi-Fi で電子カルテにアクセスし，患者情報が傍受されてしまった
　【Case15】　　AI を使って医学書を要約し，研修資料として職員に配布してしまった
　【Case16】　　利用者情報をUSB メモリに保存し，担当者会議に向かう途中で紛失してしまった
　【Case17】　　新人職員がAI に頼りきりになっているにもかかわらず，適切な指導ができなかった
　【Case18】　　虐待リスク判定AI のスコアを鵜呑みにして，実際の虐待サインを見逃してしまった
　【Case19】　　AI 翻訳を使って外国人患者と意思疎通したが，重大な誤訳に気づかなかった
　【Case20】　　カフェで業務用パソコンを開いていたら，隣の人に画面をのぞき見されてしまった
　【Case21】　　AI で「ヒヤリハット報告書」を作成したら，事実と異なる内容が含まれていた
　【Case22】　　利用者の家族がAI で調べた情報を元に，支援方針に強く反対してきた
　【Case23】　　事例検討会のために利用者の面談録音データを，ファイル転送サービスで外部の支援者に共有してしまった
　【Case24】　　ビデオ通話での画面共有で，利用者の個人情報が映り込んでしまった
　【Case25】　　会社のパソコンを所持した状態で飲み会に行ってしまった
　【Case26】　　本人の同意を得ずに，利用者の写真をAI で「アニメ風に加工」して広報に使用してしまった
　【Case27】　　退職者のIT ツールの権限削除を忘れており，情報漏洩事故が発生した
　【Case28】　　虐待防止委員会の録画データを，誤って第三者に共有してしまった
　【Case29】　　AI で生成した食事メニューを提供したら，利用者のアレルギー食材が含まれていた
　【Case30】　　「名前を隠せば匿名」と思い込み，DV 被害者の居場所が元夫に特定されてしまった
　【Case31】　　シャドーAI で従業員が漏洩していた個人情報が詐欺に利用されてしまった
　【Case32】　　理事長のディープフェイク音声と「リアルな利用者の名前」に騙され，システムを乗っ取られてしまった
　【Case33】　　自律型AI「Claude Code」に丸投げしたら，機密データが勝手にネット公開されていた

おわりに
　支援現場のAI 活用実態と未来図
　　AI 活用はすでに当たり前になっている
　　支援現場でAI を何に使っているのか？
　　現場の不安はAI 活用のルールが曖昧なこと
　　「シャドーAI」が生まれる構造
　　年収よりもAI 活用ルールの整備で従業員満足度が上がる
　　現場は「AI の適切な使い方」を学びたいと思っている
　　これからの支援現場のAI 活用7 つの提言
　支援現場のAI 導入で失敗しないために
　　AI 導入前に考えるべき3 つの問い
　　支援現場の「AI 利用ガイドライン」文面案
　　「AI 活用に関する同意書」文面案
　　AI ツールの「伝え方」の工夫
　　AI の言葉を信じ切ってしまうリスク
　　してはいけない事例を学び，正しいAI 活用を！