今回は、これまで紹介してきた人工知能技術について、情報通信技術（ICT）の進展と人工知能（AI）の急速な発展が、人権のあり方にどのような影響を及ぼしているのかを考えてみたいと思います。人権は市民革命以来、社会の変革とともに拡張されてきましたが、スマートフォン・SNS・AIに支えられた現代社会では、利便性の裏側で、本人の意識しないうちに権利が侵害される、あるいは、意図せず侵害してしまう、という新たな局面が生じています。そのため、新たな概念として登場してきた“デジタル人権”について示すとともに、AIを含むデジタル社会が人権を侵害しうる存在であると同時に、人権を積極的に擁護しうる技術でもあるという両面性を示します。結論として、AIとの付き合い方としては「人間が責任を持って管理し使いこなす関係」が望ましく、過信せず・放置せず・排除しないという三つの姿勢が重要であることを提示します。
キーワード：人工知能、人権、デジタル人権、プライバシー、表現の自由、デジタルデバイド、アルゴリズム差別、生成AI、サステナビリティ

1. はじめに：AI時代に人権を考える理由

人工知能（AI）やスマートフォンの普及に伴い、行政サービスをはじめ多くの事業領域で業務の効率化が期待される一方、個人情報の流出や誹謗中傷とともに、人権に関わる多くの課題も顕在化してきています。とりわけ最近の人工知能の発展は目覚ましく、これからの社会と人権にどのような影響を及ぼすのかを見極め、AIをうまく使いこなすための指針を考えてみます。
ここでは、今一度、情報通信社会の歴史的展開の中にAIを位置づけ、それが提起する人権課題を体系的に整理し、これに対応する形でAI時代にふさわしい新たな人権保障の枠組みである“デジタル人権”を示し、その上でAI技術との付き合い方を提示します。なお、AI時代の人権保障は、現在の個人の権利を守るだけでなく、将来世代を含む社会全体が公正で包摂的にデジタル技術の恩恵を受け続けられるようにするというサステナビリティの課題でもあります。

2. 情報通信社会と人権の歴史

人権は社会の変革と歩みをともにしながら勝ち取られてきました。市民革命による自由権の確立（1689年 権利章典、1776年 米独立宣言、1789年 仏人権宣言）に始まり、奴隷制廃止と人種平等（1863年 奴隷解放宣言、1948年 世界人権宣言）、産業革命を経た労働者の権利（1919年 ILO設立、八時間労働制）へと拡大しました。二度の大戦を経て普遍的人権が確立し（世界人権宣言）、公民権運動と反差別（1964年 米公民権法、1965年 投票権法、2006年 障害者権利条約）、さらに多様性の尊重（1989年 子どもの権利条約、SDGs、LGBTQ+の権利）へと深化してきています。そして現在、AI革命・情報通信社会という新たな段階において、デジタル空間における権利が問われています。
日本政府が掲げる「Society 5.0（2016年1月閣議決定）」は、情報通信技術（ICT）を活用した超スマート社会を志向するもので、私たちの生活はスマートフォン・SNS・AIに支えられている時代に突入しました。このICTの活用は単なる情報のやり取りにとどまらず、例えば新型コロナウイルス感染症が蔓延する中、台湾では中央健康保険庁が30秒ごとのマスク在庫状況データをCSV形式で提供し、市民がモバイル端末でマスク在庫確認や、国民カードを利用した個人の購入数管理による買い占め防止措置など、デジタルを高度に活用した行政が実現しました（日本でのFAX連絡という旧式の情報流通と対比される典型的な例になっています）。デジタルデータから価値を見出す営み自体は、古くは天気予報に始まり、決して新しいものではありませんが、5G・IOWN、スーパーコンピュータなどの情報通信基盤の上で、より高度で複雑なデータ分析をもとにした社会的な価値提供へと向かっています。
このようなICTの発展に伴い、世界のインターネット利用者数が約60億人（2025年・ITU推計）に達する一方、依然として約22億人がインターネットに接続できておらず、世界のインターネットの自由度は15年連続で後退しています（Freedom House, Freedom on the Net 2025）。また便利さの裏側で知らないうちに、例えば、プライバシー、表現の自由、アクセス権、AIと差別といった、さまざまな権利が侵害される／他者の権利を侵害してしまう、不公平な扱いを受ける／与える危険が増しているのも事実です。
こうした課題を考えるための基盤としては、世界人権宣言（1948年）第19条「意見と表現の自由」、自由権規約（ICCPR）におけるプライバシー・通信の秘密（17条）と表現の自由（19条）、国連「ビジネスと人権に関する指導原則」によるICT企業への人権デューデリジェンス要請、そして日本国憲法13条（個人の尊重・幸福追求権）・21条（表現の自由・通信の秘密）といった既存の人権規範が存在します。これらを踏まえつつ、AI・ICT時代の“デジタル人権”について考えてみます。

3. 人工知能（AI）の発展と生成AIの特徴

あらためてとなりますが、人工知能という言葉は、1956年のダートマス会議（The Dartmouth Summer Research Project on Artificial Intelligence）で初めて用いられたものです。この会議では、機械（＝コンピュータ）に言語を使わせる方法、抽象化と概念形成、人間にしか解けない問題の機械による解決、機械が自らを改善する方法などが探究の対象として掲げられました。
この起点から70年が経過した現代のAIのポイントは「学習」にあります。この学習とは一言で言えば、大量の蓄積データから「特徴」をつかみ取ることです。これまで人間（職人）が経験とカンでつかんできた特徴を、大量のデータからAIが自動的に獲得できるようになった点に本質があるのです。それまでも、確率統計計算などを駆使し、特徴をつかむことを試みてきましたが、2014年にDeep Learning手法が実用化され、多くの複雑な活用例が登場するようになりました。
Deep Learning手法は当初、手書き文字認識の高精度化やX線画像の読影、クルマの自動運転など、画像処理の分野で力を発揮してきましたが、その後、「AIにたくさん学習させれば人と会話できるのではないか」という発想から、言葉を扱う研究への適用が進みました。その核心は、次に来るであろう言葉を予測する（＝生成する）仕組みです。2017年にGoogleは自己注意機構（Self-Attention）を用いて系列データを処理する「Transformer」を発表しました。これは、エンコーダとデコーダ構造により、入力（例：日本語）の特徴をつかみ、それに合わせて出力（例：英語）を生成するという、翻訳処理を実行するもので、それまでの言語処理の方法を凌駕する翻訳の精度を実現しました。
そして大規模な人工知能で、大量の言語データを学習する大規模言語モデル（LLM：Large Language Model）が登場しました。LLMは更なる高度化を目指し、延々とモデルを大規模化させてきているのです。しかも、このLLMは翻訳だけでなく、同一言語の質問に答えるQ&Aの実現に始まり、言語だけではなく、さまざまなデータ、すなわち画像や音、またプログラムコード等、あらゆるデジタルデータの特徴をつかみ、生成することに活用が拡大されてきました。

4. AIがもたらすリスク

万能に見える生成AIにも主な課題が五つあります。第一に学習データに偏りがあると結果も偏る（バイアス問題）、第二に現時点では結果を導いた理由を十分に説明しにくい（ブラックボックス問題）、第三に指示データが再学習に利用されて推論結果に含まれてくる恐れ（情報漏洩問題）、第四に出てくる答えは確率（％）であり、常に100％正解になるわけではなく、誤答する恐れ（ハルシネーション問題）が挙げられるとともに、さらに第五には、環境問題が挙げられます。
バイアス問題は「人工知能だから公平です」という思い込みへの警鐘です。日本語環境で学習すれば日本語は話せても英語は苦手になるのと同様、偏ったデータや誤った情報を学習し続ければ判断も偏ってしまいます。実例として、マイクロソフト社の対話型AI「Tay」（2016年公開）は、一部の利用者から偏った発言を学習して暴力的発言を行うようになりサービス停止に至りました。Googleフォトが黒人をゴリラと誤分類した事例も、訓練データの偏りが原因と考えられています。
ブラックボックス問題は、ニューラルネットワークの規模が大きいほど信号を遡って理由を追跡することが困難になる問題です（人間のニューロンは1,000～2,000億個とされる）。たとえば医療などの診断をAIに委ね、診断結果について「人工知能が判断しました」という理由が通用しない場面では、AIを活用するのは不向きです。
情報漏洩やハルシネーション問題もAI技術の課題といえます。防犯カメラの画像から人物が正確に確認され、それがプライバシーの侵害や、監視社会の形成にも通じる部分が生じてしまいます。またハルシネーションによる誤情報が拡散されることによる世情不安を煽る場合や、画像出力として人間には真贋の見分けがつきにくいディープフェイク画像を作り出すことも問題になってきました。
また、これらの四つの問題に加えて、第五の課題として、AIの環境負荷と持続可能性の問題が挙げられます。生成AIや大規模言語モデルは、その学習や利用に大量の計算資源と電力を必要とし、データセンターの電力消費、冷却用水、半導体資源、サプライチェーン上の労働環境といった問題と結びついています。AIの利便性を享受する人々と、その環境・社会的負荷を引き受ける地域や労働者が一致しない場合、これは新たな不公平を生み出します。したがって、AIの人権課題を考える際には、プライバシーや差別だけでなく、環境負荷と社会的コストを含めた持続可能性の観点も不可欠です。

5. デジタル人権とは何か

ここまで述べた、主に人工知能の技術的な仕組みがもたらす五つの課題を踏まえ、ここからはAIを含めた情報通信社会＝デジタル社会における人権を、四つの論点を軸に考えてみます。
第一に、プライバシー／個人情報保護です。プライバシー権は「自己情報コントロール権」として理解され、位置情報・購買履歴・顔データなど本人が意識しないまま収集されるデータが急増しています。監視社会化、プロファイリング、データ漏洩、越境データ移転が主要なリスクです。世界の動向としては、EU一般データ保護規則（GDPR、2018年適用）が、EU市民の個人データを扱う全世界の事業者に適用され、違反には高額の制裁金を科します。累計制裁金は約58億ユーロ、制裁件数は2,245件（2025年3月時点）に上り、Meta社には最高額の12億ユーロが科されました（アイルランド・2023年）。日本では2003年に個人情報保護法が成立し、「3年ごと見直し」のサイクルで更新されており、2026年4月7日に改正法案が閣議決定・国会提出されました。ただし、この改正では、特例としてAI開発や活用を進めるため、本人の同意なく個人データを企業に提供できるようにすることなどが盛り込まれており、成立に向けては議論を呼んでいます（2026年6月時点）。
第二に、表現の自由／検閲です。インターネットは表現の自由を飛躍的に拡大した一方、政府による遮断、プラットフォームによる削除、自己検閲という新たな課題を生みました。UNESCO・Freedom House・ARTICLE 19の各報告書は、世界の表現の自由が長期的に後退していることを示しています。ネット自由度は15年連続で後退し（Freedom House 2025）、56億人超が10年前より悪化した環境に置かれ（ARTICLE 19）、メディア統制を強める政府の割合は2012年から2024年で48%増加した一方、「Open（自由）」と評価される国は世界190超のうち35カ国のみです。
第三に、デジタルデバイド／アクセス権です。インターネットは教育・仕事・行政サービスの前提インフラとなり、アクセスからの排除は「情報の貧困」という新たな人権課題となります。アクセス格差・スキル格差・利用格差の三層が存在し、依然22億人がオフライン（2025年・ITU）です。ネット普及率は低所得国27%対高所得国93%、5G人口カバー率は4%対84%と格差が大きく、低所得国の若年女性（15～24歳）の90%がオフラインです。
第四に、AI・アルゴリズムと差別です。AIは膨大なデータから学習しますが、データに含まれる過去の差別構造をそのまま再生産・強化することがあります。これは「アルゴリズム的差別」と呼ばれ、本人や開発者に差別の意識がなくても、学習データの偏り、設計上の偏り（郵便番号など中立に見える指標が実は間接差別を生んでしまう）が結果として発生します。ブラックボックス化や非意図性により、被害の発見と是正が困難になります。国際的なルール整備としては、EUのAI Act（2024年発効・2026年8月全面適用）、米国のAI権利章典・大統領令（2022～2023）、G7の広島AIプロセス（2023年日本が議長国として主導）、日本のAI事業者ガイドライン（「法の支配・人権・民主主義・多様性・公正」を共通指針として明文化）が挙げられます。
これら四つの論点を包括する概念が“デジタル人権”という新たな概念になります。デジタル人権とは、デジタル社会において個人の尊厳・自由・平等を守るための権利であり、データ・AI・オンライン空間に関わる新しい権利として、国家・企業・AIによる不当な干渉から個人を保護し、従来の人権をデジタル時代に拡張したものです。具体的には、①データ主体の権利、②デジタル・プライバシー権、③アルゴリズムによる差別からの自由、④説明を受ける権利（Right to Explanation）、⑤デジタル空間での自由、⑥オンライン安全（Digital Safety）となります。この“デジタル人権”の概念がこれからのデジタル社会において尊重されるべき大切な考え方です。現在、国際的にはEUが先行して浸透が進んでおり、日本ではこれからの整備が課題です。

6. AIを人権擁護に使う可能性

ここまで述べたように、AIが人権を「侵害する」事例は多く報じられていますが、AIが人権を積極的に擁護・保護する方向で用いられる例も世界中で増えています。AIは監視・検知、差別の是正、透明性の向上、弱者支援といった領域で人権擁護に役立っており、具体例は多岐にわたります。
例えば、人権侵害の監視・可視化では、衛星画像とAIによる紛争地の人権侵害（焼き討ち・強制移住・軍事攻撃）の自動検出（国連）や、抗議デモ映像から過剰な武力行使を抽出するNGO（Amnesty International）の取り組みが挙げられます。司法・法務領域では、過去の判決データから人種・性別・経済状況による量刑の偏りを検出し、DV・虐待の兆候を相談チャットから早期検知することも可能です。医療・福祉では、医師数をはじめさまざまなデータと将来予測から地域医療格差の可視化や、視覚・聴覚・発達障害者を支援するAI（画像の音声説明、リアルタイム字幕生成等）が情報アクセス権の保障にもつながります。企業領域では、サプライチェーンの強制労働・児童労働の検出や、社内チャット分析によるハラスメント検出が人権デューデリジェンスに活用され、教育・公共サービスでは、学習データ分析による教育格差の早期発見や、行政申請データの公平性チェックを行うことが可能です。デジタル権利の保護では、フェデレーション学習（連合学習）等のプライバシー保護AIや、不当な検閲の自動検出が実現されています。災害・紛争時には、避難所の混雑・物資不足の予測による弱者支援や、難民のニーズ分析・言語翻訳による支援効率化が進んでいます。
こうした実例を踏まえれば、AIは「人権を侵害する」側面もあれば、「人権を守る」側面も持っているのです。そのため、AIを通じて積極的に人権を擁護する設計・運用が必要だという考え方に立ち、日本のガイドラインでも、「法の支配、人権、民主主義、多様性、公平・公正な社会を尊重するAI」が明確に求められています。

7. この先の人工知能の自律化への懸念

デジタル人権が整備されつつある中でも、AI技術は発展を続けており、技術開発を止められるのか、という問いを突きつけています。開発の速度を落とそうという呼びかけもあるものの、地政学的・安全保障的な観点から、止まることがないのは事実です。AIエージェント技術の登場は、AI同士の会話で始まり、人間が把握しにくいやり取りや自問自答の繰り返しが生じ、「知能爆発」に至る可能性も指摘されています。「AIがAIを作る」再帰的自己改善（RSI：Recursive Self-Improvement）技術にも関心が寄せられてきており、2026年に入り自己改善型AIを掲げるスタートアップが世界各地で相次いで設立され、AIが自らのアーキテクチャコードを書き、性能を測定・検証して自己を改良する循環が動き始めています。 また、デジタルデータだけでなく身の回りの物理世界を把握し、行動につなげる「Physical AI」への展開も進み始めています。五感を伴う体験的学習を重ねるその姿は、自律ロボットそのものです。実用的なAIエージェントの時代に突入したことを象徴するのが、Anthropic社のClaude Mythosに代表される、未知の脆弱性を自律的に発見し攻撃コードを作成しうる生成AIの登場であり、サイバー攻防は「人間 vs AI」の局面へと向かう懸念を生み始めており、その自律性は脅威となりうる恐れを秘めています。
こうした中、規範的・倫理的な発言も相次いでいます。ローマ教皇レオ14世は回勅「Magnifica humanitas（人工知能の時代における人間の尊厳の擁護について）」を発表し（2026年5月25日）、テック企業が政府を上回る権力を持ちつつあると指摘し、AI経済が「2級の人間」を生む危険や、人間が制御できないシステムが格差を広げる新たな「バベルの塔」のリスクに警告を発しました。人工知能学会も設立40周年にあたり、AIを「人間に置き換わる存在」ではなく「人間の知性と創造性を拡張し社会の持続可能性を支える技術」と位置づけ、人とAIの共生に向けた四つの柱（独創的なAI研究と持続可能な研究基盤の強化／人間の知性と学びを支えるAI活用の確立／公共性・安全保障・倫理に基づく責任あるAIの推進／社会課題解決とAI共生社会に向けた制度基盤の構築）を掲げました（2026年6月15日）。
進化するAI技術は、かつての原子力技術が、原子力発電と原子力爆弾の両面を持ち、世界的な大きな問題となっているのと同様で、技術開発の方向によっては人類のアシストパートナーにも高性能な兵器にもなりうる可能性があるのです。何のためのAIなのかを問い続け、国際的に整合した技術開発ガイドラインの策定と遵守が求められています。

8. おわりに：AIとの責任ある付き合い方

AIは人間のように善悪を判断しません。だからこそ私たちが取るべき姿勢は、①AIを過信しない（批判的に使う）、②AIを放置しない（ルールと監視を整える）、③AIを排除しない（人権擁護に活かす）、という三つに集約されます。この三つの姿勢を怠ると、AIは容易に人権侵害の道具となります。

そこで、AIと上手に付き合うために、AIを「判断者」にしないこと、透明性と説明責任を求めること、利用目的を常に問い直すこと、AIリテラシーを社会全体で高めること、暴走を防ぐ制度を整えること、そしてAIを「人権擁護のために」積極的に使うことが重要となるのです。AIは人格を持たず、権利も義務もありません。したがってAIを人間と同列の存在として扱うのではなく、人間が責任を持って設計・管理し、社会のために使いこなす関係を築くことが重要です。情報通信社会の進展のなかで、AI時代の人権保障を社会の基盤として確立していくことが、これからの私たちの課題となります。またAIを使うということは、単に便利な道具を使うことではなく、その背後にあるデータ、電力、資源、労働、社会的影響までを含めて責任を引き受けることでもあります。AI時代の人権保障は、現在の利用者だけでなく、将来世代に対する責任を含むサステナビリティの課題でもあるのです。

AI入門シリーズを終えるにあたり

本シリーズ、「AI入門」「続・AI入門」は今回で終了します。人工知能技術に関して、その生い立ちから現在に至るまで、簡単な文章での技術の解説を試みました。この技術の概要を理解し、必要以上の過信や不安を持つことなく活用を進めるために、少しでもご参考になれば幸いです。複数回にわたったため、読みやすく一つの資料にまとめています（https://www.jstage.jst.go.jp/article/bplus/20/1/20_50/_pdf）。こちらも参考になさってください。お読みいただきありがとうございました。

参考文献