序論
現在（2025/10/08時点）、様々なAI技術が公開され社会に大きな影響を与えている。かつてはウィル・スミスが素手でパスタを食べる動画などで話題になったように生成AIの限界は非常に低く、まあネタとして楽しむ程度だろうという空気感だったことを覚えている。
AI技術が流行ったのは何もここ最近ではないことは少し調べればわかるだろう。何度かの『AIの冬』時代を経て今再び世間にその姿を表しているにすぎない。そして今回は過去のブームとは一味違うように思える。
人間が撮った動画と区別がつけられないような生成AI産の動画が素人の手によっていとも容易く生み出され、絵描きをしたことがない者たちによってイラストレーター顔負けの絵が量産されている。かつての高度な技術はその高いクオリティのアウトプットそのままに誰でも持つことができる技術へと降格したと言えるだろう。
このような情勢を踏まえたうえで、筆者なりにAI関連技術の功罪、すなわち社会にもたらす利益と損害、そしてそれが意味するものについて考えを披露していきたい。
利点やもたらす利益
AI関連技術は間違いなく社会に利益をもたらすというのは言うまでもないだろう。やらないといけないが利益に直結しないタスク、例えば〜〜などはAIで解決できる分野だ。それだけに限らず多くのタスクについても同じことが言えるだろう。その空いた時間はより有意義な仕事に振り分けることができる。これは間違いなく利点である。
翻訳、要約、文字起こし、いずれもAIによって性能が大きく向上した、あるいは実現可能になったことだ。議事録の作成を行う技術すら存在するのだ。
また、生成AIはかつては様々な問題によって芸術活動に参加することができなかった人達にその権利を与えることに成功している。
芸術的才能を持たずともイラストを生成し、イメージの共有などを行う事ができるのはメディアを扱う人にとっては仕事をより良くするための道具になりうる。
このように、道具としてのAIは間違いなく社会に貢献するものである。これは揺るがないだろう。
もたらされる損害
しかし、一方でAIは多くの点で議論を呼び、様々な損害をもたらしている。
例えば、イラストに限らず小説、ブログ、情報サイトなどは粗製乱造されることによって誤情報の拡散や単純な検索汚染、著作権侵害、賞の選考への多大な負荷をもたらしている。特に生成AIは多くの創作物を著作者の許可なしに学習させたモデルが少なくない。もちろん日本においては現行法でこのような行為は合法ではある。しかし、日本以外では当然訴訟になるケースが多いことはこの問題がどう受け止められているのかの指標になるだろう。読売新聞社など、少し調べただけでも訴訟事例が見つかる程度にはそのようなトラブルが多いことがわかるのだ。そしてこのような訴訟は今後ますます増えていくことが予想される。
この問題はAIモデルを作る会社の少なくない数が倫理よりも利益を追求し法的整備が十全になる前の段階で業界における覇権を取ろうとする行動に原因があると筆者は考えている。
オプトアウト方式は筆者個人はありえない対応だと思うところだ。これは権利者に許可なく営利目的で使用していながら、文句がありなら言ってこいよと言っているようなものだ。盗人猛々しいとはこのことだ。そのような行為はAIに対する不信を蓄積させていく毒であり、いずれ自分たちに返ってくるだろう。
また、LLMの登場は良い側面もあるがAIに使われる者たちを大量に生み出した。Xではポストに対してgrokに文脈や背景、そもそもどんなポストなのかを尋ねる人が多くいる。考えることを放棄して人工知能に情報という餌を与えてもらっている雛鳥たちはそこから巣立つための翼をどんどんと退化させていくだろう。
大学ではレポートをAIに書かせる生徒が後を絶たないという。AI対策の文字列を課題に潜り込ませた話は記憶に新しい。大学に限らず、読書感想文やそもそも課題をAIにやらせるような話すらあるのだ。間違いなく今後そのような話は増えていき、AIの性能向上とともに社会問題になることは予想に難くない。
これだけでも問題であるのに、AIにはハルシネーションやポチョムキン理解といったこの問題をよりひどいものにする課題がある。ハルシネーションを考えずに情報を摂取していく行為は知識の汚染とでも言うべき事態へとつながりかねない。
※ハルシネーションはAIが偽りの情報をあたかも本当のことであるかのように話すことで、ポチョムキン理解とは表面的な概念は正確に説明できるがそれを実践に適用できないことを指す。
そして極めつけがディープフェイクの存在だ。進化していく技術はすでに本物と偽物の境界を曖昧にしている。インターネットに出回る動画や写真、それらの真偽を判定しなければならない時代に入りつつある。既に被害が出ているし、これからもっと増えていくだろう。
道具に善悪無しなのか
AIはあくまで道具であり、その善悪は決めることができないという人もいるだろう。果たして本当にそうなのだろうか？
悪用ができる技術は必然的に悪用される。人類は失敗してなお再び失敗する生き物なのだ。反省し自制できるとしたら今頃犯罪も戦争もなくなっているはずにちがいない。自ら作り、自ら使う道具の功罪はどうあれ人類の功罪になる。使われない道具は存在しないのと同じであり、そういう意味では結局道具にも善悪はついて回るだろう。
AI技術は諸刃の剣と言える。人類の発展に大きく寄与できる能力を秘めていながら同時に人類を破滅に追い込む可能性を持ち合わせている。無論、それは極端なケースではあるが、世界に放たれてしまった以上AIに反対などというのは飲んだ水を吐き出してくださいと言っているようなものだ。否応なく付き合って向き合っていくしかない。
未来予想図
筆者は近い将来AIバブルは大なり小なり弾けるだろうと予測する。投資額に見合うだけの性能が確保できなかった時点で人々は夢から覚め、自らが作り出した現実に向き合っていくことになる。
なぜそう予測するのか。それは一つ、数多くの専門家が指摘している通り投資額が実態と離れはじめているからだ。現在はスケール則が成り立っている段階にあると思う。金を入れた分成長していく。ただし、無限に成長する技術は存在し得ないのではないかと思う。人類が投資できる金額は有限であり、電気や資源もまた有限だ。今は良いかもしれないがいずれどこかで破綻するだろうというのが筆者の考えるところである。
二つ、現行の技術はAGI、すなわち汎用人工知能からは程遠い点だ。結局のところ学習プロセスは既存の情報を学ばせているにすぎず、人の持つファジーさを持ち得ないコンピューターはその曖昧さから生まれ出る創造物へたどり着くことができないと考えている。生成AIはグラスからあふれるワインを描けないという話がある。これはその問題を端的に示す証拠になりうるだろう。そもそも統計的に結果を出力する現行AIにどれほどの創造性があるのだろうか。どれだけバージョンが上がろうとハルシネーションを消せないというのは構造的な欠陥があるのではという疑念を確信に変えるものである。（ハルシネーションを解消できるならそれはそれでよい）
三つ、あまりにも進化速度が早いがゆえの拒否反応が起きるのではないかという点。多くの人が技術に驚いている間にも目まぐるしい速度で関連技術は進化している。そもそも製品化できる段階、公表できる段階にあるものが世に出ているわけで研究開発されているより進化した技術がどうなっているのかは知りようがない。しかし、今でも犯罪行為への親和性の高さが社会へ負の影響を与えているのだからいずれ臨界点を越えて大幅な法整備がなされ規制が強化されるだろう。そうなったときに市場がどう反応するのかは予測不可能だが緩やかな着地ができることを願うしかない。
結局どう考えているのか
筆者はAIは否定的ながらも肯定派だ。前述の通り、もはやAI技術がない世界は実現し得ない。その意味で肯定するしかない。しかし、現在のテック企業による技術のグレーな使い方は断固として反対する。
SNSでの分断の進行、対して質の良い情報でもないナニカを検索で出されるのははっきり言って苦痛であり動画サイトの検索結果にAIの作った立派なゴミがいくつも出てくる状況はなんとも言い難い心情になる。
全てを否定するわけではない。筆者自身も使ったことがある。そのうえで人の自制心や理性というものを信じることができないというのが筆者の考えるところである。
結局否定的な肯定派が一番しっくり来るのではないか、というのが結論だ。
なお、筆者が考えるに汎用人工知能はこうなるのではないかという予想がある。結局AGIは人のように多様な情報を何年もかけて取り込ませ、汎用性が一定以上になった段階で完全な学習フェーズから学習しつつタスクをこなす段階へと移行する機械生命体のような形になるというものだ。一度完成すればあとは自律的に働き、人類の存在意義は失われていく。研究開発、学問など厳密性がある分野も芸術や文学など曖昧さがある分野も全ては汎用人工知能が担当し人類はただ餌を与えられて生きる肉塊になる。これが現実になる日が来ないことを祈るばかりである。
