『生成AIの正体』（ドキュメンタリー）

生成AIの正体
シリコンバレーが触れたがらない代償
（2023年・蘭VPRO）
NHK-BS1　BS世界のドキュメンタリー

AIが作り出すコンテンツは
統計によって導き出された幻覚のようなもの

　現在世界中でもてはやされているAIだが、その問題性が話題にされることはあまりない。このドキュメンタリーでは、AIの負の側面について紹介していき、AIが必ずしも信頼に足るものではないことを示していく。
　第一に、AIが利用する生データの質の問題がある。AIの本質がディープラーニングにあることから、学習素材としての膨大なデータが必要になるわけだが、さまざまな画像にデータを結びつけることは人の手で行われている。その際、そのデータの紐付けは、低賃金の労働者に担わせることが多く、しかも労働の内容がストレスフルで、結果的にデータの質が著しく低下することになる。そこには労働者に対する人道的な問題も存在する（竹林軒出張所『ソーシャルメディアの“掃除屋”たち（ドキュメンタリー）』を参照）。
　また、たとえデータの質が担保されたとしても、AIの特性上、インターネットの多数派の思考に近づくことになるため、刺激的な主張が拡散されやすいというインターネットの特性から、偏見に満ち溢れた結果が生成されることが多くなるというのも大きな問題である。さらには、AIの運用に膨大な資源が浪費されているという根源的な問題もある。
　このドキュメンタリーでは、AIが生成した本物らしいイメージも随時活用しながら、AIの本質を探り出そうと試みているが、結論としては「AIが作り出すコンテンツは統計によって導き出された幻覚のようなもの」であり、利用する前にそれが「真実ではないと理解することが大切」というところに落ち着く。
　いずれにしても、多くの人がAIのことをあまりわかっていないにもかかわらず過大評価しているというのが現状で、AIを利用するというのであれば、本来その前にその本質に迫っておく必要がある。利用者が、何も知らずに浅薄に接することが、AI利用の問題をますます増幅させているわけである。
　このドキュメンタリーでは、AI自体が持つ「浅薄な上澄みを掬うような特質」が紹介されているわけだが、実は利用者の側にしても、その多くは、本質を追究するのではなく浅薄な生き方を志向しているわけで、それを考えると、昨今のAIの流行は浅薄な文明の投影ということができるのかも知れない。結論としては、AIを過大に評価することなく、単なる統計の産物、つまり当てずっぽうで導き出された結論であることを知った上で、これに対峙することが肝要であるということになるのではないかと思う。
★★★☆

参考：
竹林軒出張所『ソーシャルメディアの“掃除屋”たち（ドキュメンタリー）』
竹林軒出張所『抑圧のアルゴリズム（本）』
竹林軒出張所『私を“合成”したのは誰（ドキュメンタリー）』
竹林軒出張所『AI vs. 教科書が読めない子どもたち（本）』
竹林軒出張所『棋士VS将棋ソフト 激闘5番勝負（ドキュメンタリー）』
竹林軒出張所『＃フォロー・ミー（ドキュメンタリー）』
竹林軒出張所『データに溺れて…（ドキュメンタリー）』