見出し画像

ChatGPTを使う?使わない? どうする神戸市

新聞やテレビのニュースで「ChatGPT」の話題を毎日のように目にします。ChatGPTは、文章を入力するとまるで人間と会話しているかのように答えを返してくれる「対話型の文章生成AI(人工知能)」です。

ChatGPTについて地方自治体の意見が真っ二つに分かれていると感じる方が多いと思います。横須賀市やつくば市では全職員が使う方針ですが、鳥取県で知事が使用を禁止したと報じられました。

ですが、使うか使わないかの二択ではありません。このような新しいテクノロジーは、おもしろそうと鵜のみにするのは危険です。ですが、危ないといって避けるだけでは、あっという間に浦島太郎状態です。

そこで神戸市は、ChatGPTに代表される生成AIを、まずは情報漏えいの点で安全性を万全に確保する。そして、利用したほうが良い業務には積極的に活用していく方針です。ただ、安全性が担保できるまでは、職員が仕事で使うことを制限しています。


自治体での文章生成AIの使い方

はっきりいって市役所の仕事で文章を作ることは多いです。この記事を書くのもそうですね。例えばイベントを開催しようとすると、住民の方に参加を呼び掛けるチラシをつくって、それを紹介するホームページをつくります。すると、それを説明する文章をつくらなければなりません。

それ以外には、会議録の作成を例にとると、最近では音声データから文字を起こしてくれるアプリもありますが、ときにはそれを分りやすく要約しなければなりません。

もしChatGPTを市役所の仕事に使えれば、どうなるでしょうか?

さすがにこの記事を代わりに書いてもらうのは無理だと思います。ですが、チラシやホームページの説明文は書いてくれそうです。会議録を要約するのも、もしかすると一瞬でやってくれるのかもしれません。

5月10日の記者会見で久元喜造市長は、「ChatGPTを使うといろんな意味で作業効率を向上させることにつながる。さまざまな業務に活用できるかもしれない。アイデアの着想や気づきの機会を与えてくれる」と説明しています。

前向きですね!

では、職員はどう思っているのでしょうか? ChatGPTをどうとらえているのかアンケートをしてみました。

・個人での使用歴がない      76%
・業務での活用の可能性を感じる  69%
・懸念・不安を感じる       60%

なるほど..

あまり使わないようです。ですが、使ったほうがいいのかもと感じながら、不安を抱えている職員というのが一番多そうです。

ChatGPTお試しイベント

そこで、実際に職員がChatGPTを使ってみて、どんな仕事に使えるのか、何が問題になるのかを議論するイベントを行いました。

まず、「ChatGPTの活用方法や課題について考えるフォーラムの挨拶文を考えてください」と聞いてみました。すると、丁寧だけど堅い大人向けのモノと、柔らかい文体で子どもにも分ってもらえそうな挨拶文が返ってきました。

うん? うわさには聞いてたが。なかなかやりよるな..

すると、ある職員は「年代を明確に指示してやれば、その年代に合った挨拶文を考えることも可能なのでは」と提案しました。

お! 職員側も使いこなしてやろうとする心意気があります。

そのなかで、一番ショーゲキだったのは、実在しない地名の「神戸市南区」と入力し、そこの公園について聞くと、存在しない公園の名前がスラスラと表示されたのです。しかも、架空の公園があたかも実在しているかのごとく、リアルに説明してくるのです。

これを見ていた久元市長も「驚きました。ChatGPTの限界というよりもこれはリスクです」と記者会見で話したほど。

AIには悪意はないと思いますが、自動的に虚偽の情報を生み出してしまうのは、はっきり言って怖いですね。

活用ルールの条例を制定

そして、よく言われるChatGPTの大きなリスクは情報漏えいです。パソコンやスマホでインターネットの世界に情報を送ると、取り返しがつかない漏洩になりかねません。特に、個人情報の取扱いは慎重であるべきです。

そこで神戸市は、情報漏えいによる市民の権利侵害を防ぐために、安全性が確認されていない生成AIに、機密性の高い情報を職員が入力するのを制限する条例が5月24日に市議会で可決されました。

また、神戸市では職員がChatGPTを使うときには、直接利用するのではなく、マイクロソフトが提供するサービス(Azure OpenAI)を通じての利用を想定しています。すると、個人がChatGPTを使うのとは違って、同社の日本法人と神戸市が契約を結ぶことになるので、日本国内法が適用され、インターネット上に入力データした情報はまったく保存されません。

さらに、職員が生成AIを利用するときに参照する指針や手順書の作成を進めていています。

<2023年6月22日追記>
神戸市職員はマイクロソフトが提供するサービス(Azure OpenAI)を仕事で使えるようになりました。職員約100人が試行的に使います。
そのときに守るべき手順書も作成。AIがつくった文章は必ず職員が最終判断して使うことや著作権を犯していないかを点検するように定められました。なお、この手順書は以下のウェブサイトで公開しています。

近い将来、安全性を確保した上で、生成AIを使って、いろんな業務が洗練され、効率的に進められる。そうなると、市民の皆さんにもよろこんでもらえると思います。そんな日が来るのがとっても待ち遠しいです。

<この記事を書いた人>
上澤 こころ/企画調整局政策課
大阪生まれで大学は京都。だが、職場は神戸市役所を選択。3月までは人事課(服務観察担当)という堅くて怖そうな仕事だったが、この4月に企画調整局政策課という何となく華やかな部署に異動してきた。
最近、家でハマっているのは観葉植物。その成長を写真に撮って心が癒されている毎日。現在は5鉢。新入りはシックハウスの原因物質を取り除く能力が高いアルテシマゴムで、彼女から「アルちゃん」と呼ばれているらしい。

〈関連記事〉

この記事が参加している募集