AIで作った教材アプリ。動いた瞬間はうれしいのに、いざ生徒に配るとなると手が止まります。このまま使わせて、セキュリティは大丈夫？
その慎重さは大切です。ただ、心配すべきアプリと、そうでないアプリがあります。ポッドキャスト「先生のためのAIラジオ」第18回では、中学校の先生から届いた1通のお便りを入り口に、その線引きを掘り下げました。
「最悪のケースで、失うものは何ですか」
番組でまず並べたのは、起こりうる最悪のケースです。ソースコードが盗まれる、外部の誰かがアクセスしてくる、アプリが改ざんされる、そして生徒の個人情報が盗まれる。だいたい、こんなところでしょうか。
そのうえで、あきお先生が作った振り子のシミュレーターを例に、聞いてみました。これが盗まれたとして、失うものは何ですか。
返ってきたのは、ソースコードと著作権。そこで止まりました。それも当然で、見せるための教材ですから、生徒の名前も成績も連絡先も入っていません。盗まれてもコピーされても、失うのはソースコードとURLくらいです。最初に並べた最悪のケースのうち、本当に怖いものは起こりようがありません。
事態がどこまで深刻になるかは、そのアプリが生徒の情報を預かっているかどうかで決まります。
同じ理屈は、保守の心配にもそのまま当てはまります。商用サービスがメンテナンスを続けるのは、止まればお金と信用を失う契約を背負っていて、しかも狙う価値のあるデータを抱えているからです。教材アプリは、そのどちらも持っていません。バグに気づいたら直しておく。それで十分なのです。
「預からないアプリ」が、ある日「預かるアプリ」になる
ただし、この見極めは一度きりでは終わりません。
例えばこんなことが考えられます。英語の先生が、キーボードのタイピング練習アプリを作りました。生徒の情報は何も入っていない、シンプルな教材です。ところが使っているうちに、せっかくだからスコアも残そうという話になりました。スプレッドシートとGAS（Google Apps Script）を組み合わせ、生徒の名前とスコアを記録する仕組みが加わったのです。
ここで、アプリの性格が変わりました。成績情報を預かることになった以上、セキュリティの考え方も一段上げなければなりません。
預かった途端に扱いが重くなるのは、氏名や顔写真、住所や連絡先、成績やテストの解答、学習履歴、提出物、健康や家庭に関する情報です。教材アプリと校務アプリの境目は、思っているよりすぐそこにあります。
アプリは機能追加で変化します。機能を足すときには一度立ち止まって、これは預かる側に回っただろうか、と確かめてみてください。それだけで、判断はぶれなくなります。
セキュリティの基本は、公開設定
預かる側に回ったアプリなら、やることははっきりしています。公開範囲を、学校の中だけに絞ることです。
学校でGoogle Workspaceを使っているなら、これは難しい作業ではありません。Googleサイトに貼り付けても、GASで動かしても、組織に所属している人だけがアクセスできる設定にできます。気をつけたいのは、無料や個人のアカウントで作った場合です。組織という単位がないため、学校の中に閉じるという考え方そのものが使えません。
ここでも、1つ目の基準が効いてきます。番組では、自作の教材アプリをGitHubで公開しているという話も出ました。世界中の誰でも見られる状態ですが、生徒の情報を何も預かっていないのであれば問題にはなりません。どこまで絞るべきかは、預かっているものの重さで決まるからです。
危ないのは、作ったものより作り方
ここまでは、お便りに書かれていた心配への答えでした。ところが、お便りには書かれていなかったリスクがもう1つあります。しかも現実の危険としては、こちらの方がずっと大きいのです。
AIエージェントを使っていると、「このファイルを変更していいですか」と確認を求められます。最初は一つひとつ読んでいたのに、慣れてくると全部まとめて許可したくなる。心当たりのある方も多いのではないでしょうか。
海外では、利用者が「ここは変更するな」と何度も指示していたのに、AIが大事なデータを消してしまった事故が報じられました。開発元の社長が「あってはならないこと」と謝罪する事態になっています。フォルダ整理を任せたところ、AIが失敗を成功と取り違えたまま作業を進め、ファイルを失ってしまった例もあります。
どちらも、できあがったアプリが攻撃された話ではありません。危ないのは、作ったものより作り方なのです。
備えは3つです。AIに作業させるフォルダを大事なデータから切り離しておくこと、承認を飛ばさずに読むこと、そしてバックアップを取っておくこと。あの確認画面は、面倒な手続きではなく、最後の関所なのです。
番組を聴く
安心して作れる線引きが分かると、アプリづくりはぐっと楽しくなります。番組では、承認の設定を変える方法から、人の目には見えない文字でAIをだます手口まで、具体的にお話ししています。
「先生のためのAIラジオ」#18 はこちらからお聴きいただけます。
