2022年11月にChatGPT3、そして2023年3月にGPT4が発表されて以来、OpenAIと同社のテクノロジーは世界を席巻してきました。 今、それらへの関心は爆発的に高まり、世の中の話題の中心となってさまざまな見方が飛び交っています。
MPower Partners Fundのブログでは、ESGの観点から生成AIをどう考えるのかというテーマを3回にわたって取り上げます。今回はそのパート1として、一時的な流行の先にある生成AIの倫理的および環境的影響について考えてみましょう。
生成AIは業務の合理化や顧客体験の向上に貢献
生成AIはクリエイティブAIまたはマシンクリエイティビティとも呼ばれ、アルゴリズムと機械学習技術を駆使して新しいコンテンツを生成します。GPTはGenerative Pre-trained Transformerの略で、簡単に言えばテキスト、画像、またはその他の種類のデータを生成するように訓練された人工知能システムの一種です。
「Pre-trained（事前トレーニング済み）」という部分は、システムが大量のデータを読み込んで＜事前に＞学習したうえで、特定のタスクに使用することを意味します。「Transformer（変換器）」とはシステムのアーキテクチャを指しており、ここで大量のデータシーケンスを処理し理解します。 これにより、チャットボットや言語翻訳など、人間の言語を理解して生成するタスクが可能になるというわけです。頭にある「Generative（生成可能な）」とは、トレーニングデータから学習したパターンに基づいて、システムが新しい独自のコンテンツを生成できるという意味です。 たとえば大量の書籍を学習したGPTシステムは、人間が書いたような、さらには特定の著者のスタイルを用いた文章の一節を新たに生成することもできます。
ChatGPTなどの生成AI技術が、さまざまな業界に大きなメリットをもたらしうることは明らかです。その例を見てみましょう。
- ヘルスケア：医学研究用の合成データ（人工的に生成されたデータ）を生成することにより、患者へのサービス改善に貢献します。 これにより、研究者は患者のプライバシーを侵害することなく機械学習モデルをトレーニングすることができます [1]。
- クリエイティブ業界：さまざまなクリエイティブ分野で新しく革新的なコンテンツを創作するために活用できます。 たとえば音楽業界では、生成AIを使って新しい曲を制作したり、ファッション業界では新しいデザインを生み出したりできるでしょう [2]。
- ゲーム：よりリアルで没頭しやすいゲーム体験を創り出すことができます。 プレイヤーの行動に臨機応変に対応するゲーム環境の生成もその一例です [3]。
- 小売：需要予測の生成、消費者動向の予測、および在庫管理の最適化によって、小売業者がサプライチェーンを最適化するのに役立ちます [4]。
これらは、生成AIの潜在的な利点のほんの一例です。 このテクノロジーを活用することで、企業は業務を合理化し、顧客体験を高め、成長を加速できるでしょう。
その一方で、環境、社会、およびガバナンス（ESG）の観点からは懸念もあります。
環境面で懸念される電力消費量とCO2排出量増加の可能性
まず環境の観点で見ると、生成AIの使用はエネルギー消費と二酸化炭素排出量に大きく影響する可能性があります。
生成AIモデルに必要な計算能力を支えるには、膨大な量のエネルギーを消費する大規模なデータセンターが必要になるでしょう。国際エネルギー機関のレポートによると、2018年に世界中のデータセンターが消費した電力は約205テラワット時 (TWh) で、これは世界の電力消費量の約1%に相当します [5]。データセンターの電力需要は、2030年までにさらに50%増加すると予測されています。
こうしたデータセンターは温室効果ガスを排出し、気候変動の一因となっています。同レポートの推定では、2018年にデータセンターが排出したCO2の量は、世界の排出量の約0.3%を占めていました。これは航空業界の総排出量にほぼ相当します [6]。
生成AIによって引き起こされるエネルギー消費と二酸化炭素排出量を正確に測ることは困難ですが、AI技術がますます活用されるようになれば、環境への影響が大きくなることは明らかです。ただし、再生可能エネルギーを利用したデータセンターなど、より持続可能なインフラに投資したり、生成AIモデルの規模を縮小したりすることで、これらの環境問題に対処する方法もあります [7]。
ほかにも、生成AIモデルは偏ったデータを学習する可能性があり、それが環境へのさらなる悪影響につながる懸念があります。たとえば、生成AIモデルのトレーニングデータが主に炭素排出量の高い業界から供給されている場合、そうした産業の永続を助長させるコンテンツが多く生み出されるかもしれません。これにより、炭素排出量が増加しその他の環境への悪影響につながる可能性もあります [8]。
社会・ガバナンスの観点では、公平性や倫理面を担保する枠組みが必要
偏ったデータを学習すると、平等性や公平性が損なわれる懸念もあります。たとえば、生成AIモデルが偏ったデータを学習している場合、既存の格差やステレオタイプを永続させるようなコンテンツが生み出されるかもしれません。これは特に差別を受けている人々に、社会的にも経済的にも打撃を与える可能性があるのです。こうした問題に対処するには、生成AIの公平性、平等性、透明性を担保する「責任あるAIフレームワーク（枠組み）」の確立が欠かせません [9]。
社会的な観点から見ると、生成AIを使うと偽の画像や動画を創り出せるため、本物とそうでないものの区別が難しくなります。 そうなると誤った情報やプロパガンダが拡散されるなど、深刻な社会的影響につながりかねません。たとえばディープフェイクは、人が実際に言ったり行ったりしていないことをやったように見せる動画で、生成AIで作成できます。これらは、選挙候補者に関する虚偽の情報を拡散したり、暴力を扇動したりするなど、悪意のある目的に使われてもおかしくありません。したがって、社会的観点から生成AIの倫理的影響を考慮することは大変重要です [10]。
最後にガバナンスの観点で見ると、生成されたコンテンツの所有権と管理に関しても倫理的な懸念を引き起こす可能性があるでしょう。AIモデルによって生成された画像やテキストの著作権は誰のものなのか？誰かを中傷したり傷つけたりするためにディープフェイクが使われた場合、誰が責任を負うべきか？これらの質問に答えるために、生成AI技術の公正かつ責任ある使用を確保するための慎重な検討と法的枠組みが必要です。これは、生成AI技術の開発における責任あるデータ使用とセキュリティ対策の重要性を意味しています [11]。
以上、ChatGPTのような生成AI技術がもたらす利点を挙げつつ、ESGに関して明らかになっている懸念や配慮すべき点をまとめました。生成AIはとてつもない可能性を秘めていますが、それと同時にESGの観点で懸念点を理解し、慎重にアプローチすることが大切です。そうすれば持続可能かつ社会的に責任ある方法で、この革新的なテクノロジーを活用できるはずです。
パート2では、生成AIの実践的な活用について深掘りします。
参考：
1. Chen, Y., Ma, T., Wang, C., & Luo, J. (2021). Synthetic data generation with generative adversarial networks for medical research: A review. Journal of Biomedical Informatics, 113, 103637.
https://www.sciencedirect.com/science/article/pii/S1532046421000961
2. Yang, C., Gan, Z., & Salakhutdinov, R. (2017). Improved variational autoencoders for text modeling using dilated convolutions. In Advances in neural information processing systems (pp. 2238-2246).
https://proceedings.neurips.cc/paper/2017/hash/91f8fd22c3c3f99db25bea9c6e52aab6-Abstract.html
3. Summers, J., & Gielis, J. (2019). How generative AI will change the game development industry. In Proceedings of the IEEE Conference on Games (pp. 1-4).
https://ieeexplore.ieee.org/document/8848174
4. Gu, Y., Sun, X., Liu, Y., & Guo, B. (2020). Retail demand forecasting with generative adversarial networks. International Journal of Production Research, 58(9), 2788-2807.
https://www.tandfonline.com/doi/full/10.1080/00207543.2020.1818807
5. International Energy Agency. (2019). The growing role of data centers in the global energy system.
https://www.iea.org/reports/the-growing-role-of-data-centres-in-the-global-energy-system
6. Brock, J. (2019). Data center CO2 emissions equivalent to airline industry. Forbes.
https://www.forbes.com/sites/jamesconca/2019/08/20/data-center-co2-emissions-equivalent-to-airline-industry/?sh=1f4c7d214cb0
7. Peterson, S. (2021). The environmental impact of AI: what you need to know. World Economic Forum.
https://www.weforum.org/agenda/2021/01/the-environmental-impact-of-ai-what-you-need-to-know/
8. Mukherjee, S. (2019). The impact of artificial intelligence – Widespread job losses. Medium.
https://towardsdatascience.com/the-impact-of-artificial-intelligence-widespread-job-losses-92e437bc781f
9. Mittal, S. (2020). Responsible AI: Addressing the ethical and social implications of AI. Analytics Insight.
https://www.analyticsinsight.net/responsible-ai-addressing-the-ethical-and-social-implications-of-ai/
10. Boyd, D., & Crawford, K. (2019). Critical questions for big data. Information, Communication & Society, 15(5), 662-679.
11. Kim, M. (2020). Privacy, security, and ethics in the age of AI. Forbes.
https://www.forbes.com/sites/cognitiveworld/2020/05/18/privacy-security-and-ethics-in-the-age-of-ai/?sh=641f7d642b71