7月に来日していたようで、2本のインタビューが掲載された。
ある立場にすればしごく順当な内容で、このスタンスは大事にしたいものだと思うが、苦笑するしかないのは、
「日本では、多くの人がイデオロギーや意見の対立を『調和を乱すもの』と感じている。一方でプルラリティーでは、対立を共創に転換するエネルギー源として捉える。」
「『違いは雑音だ』と言えば、テクノロジーによって急速に単一の考えが強化され、多様性が失われる。しかし、違いを「声」と捉えれば、さまざまな声を求めることになる。」
といったくだり。
日本にはプルラリティーは無理かもなあ。
AI新世紀:オードリー・タン氏が提唱するデジタル民主主義とプルラリティー 要約
1. AIが抱える分断のリスクと「第3の選択肢」
アテンションエコノミーに基づくSNSや、定額制の対話型生成AIは、社会の分断や個人の孤立を助長するリスクを抱えている。唐鳳(オードリー・タン)氏は、AIを個人ではなくコミュニティーに結びつける「第3の選択肢」を提唱する。
- 広告収入型のSNSでは閲覧数を伸ばす刺激的な投稿が拡散されやすく社会の分断を助長する
- サブスクリプション型の生成AIは利用者の意見に迎合するため個人の「泡」を作り出す
- AIをコミュニティーの中で人と人を結びつける仲介役として活用することが求められる
2. 「プルラリティー(多元性)」による共創
単一性を意味するシンギュラリティーに対抗し、意見の違いや対立を共創のエネルギーへと変換する「プルラリティー」の概念が重要である。
- 対立を「調和を乱すもの」ではなく共創へのエネルギー源として捉え直す
- 対立する両派から賛成票を得た注釈のみを表示するSNSのコミュニティーノートはプルラリティーの実用例である
- 違いを雑音ではなく「声」と捉えることで多様な意見の集約が可能になる
3. 台湾における熟考型世論調査の実践
2024年の詐欺広告対策において、台湾政府はオンライン上の熟考型世論調査を実施し成果をあげた。
- 参加者を少人数グループに分け議論と熟議を重ねることで極端な案が淘汰された
- 「アルゴリズム公開義務化」案は悪用懸念により支持率が下がり「広告主の本人確認義務化」案などが法制化された
- 結果としてピーク時から98%以上の詐欺広告削減に成功した
- リアルタイム文字起こしや要約など議論の円滑化のためにAIが活用された
4. 拡張された集団知(AGI)の実現と日本の可能性
汎用人工知能(AGI)の開発競争ではなく、人々の集合知を高める「拡張された集団知(Augmented Group Intelligence)」の実現を目指すべきである。
- AI開発は勝敗を競う競争ではなく具体的な課題を解決する共通のミッションとして捉えるべきである
- ハルシネーションなどの課題解決も協働のための重要なマイルストーンとなる
- 日本は「八百万の神」などAIやロボットを社会の共存相手として捉える高い文化的資質を備えている
- 『 台湾初代デジタル担当相オードリー・タン氏に聞く(上) オードリー・タンが警鐘 AIを「親友」にしてはいけない 』
- 『 台湾初代デジタル担当相オードリー・タン氏に聞く(下) オードリー・タンが警告 AIが考え人が従う「逆ケンタウロス」の罠 』
台湾初代デジタル担当相オードリー・タン氏に聞く
1. AIの進化と「拡張された集団知」
- AIの急激な進化は予期されたものであり、2016年にAlphaGoが囲碁で勝利した時点で明確であった
- AIが人間の能力を超えたことで関係性が逆転し、人間がAIから学ぶ時代へと移行した
- AIは囲碁の可能性や戦略の多様性を大きく広げる役割を果たした
- 人間が自己価値を「狭く定義された課題で1位になること」に求めると失望につながる
- AIは汎用人工知能(AGI)というより「拡張された集団知(Augmented Group Intelligence)」として捉えるべきである
- リアルタイム翻訳を行うAIメガネのように、AIは人々の距離を縮めコミュニケーションを支援する「支援的知能」として機能する
2. 経営者のAI活用と過度な依存の回避
- AIを親友や肯定的な存在と勘違いせず、役割を演じているに過ぎないと認識する必要がある
- AIに感情表現や無条件の同調をさせないよう指示を設定することが重要である
- AIの用途は、人間同士の議論や意思決定に向けたたたき台の作成にとどめるべきである
- 人間の同僚や部下の代替としてAIをみなしてはならない
3. サイバーセキュリティにおける新たな脅威
- 能力の高いAIエージェントが、人間の関与を大幅に減らし長時間にわたる高度な攻撃を実行可能になった
- AIが計画調整や情報収集を自律的にこなすため、攻撃の首謀者を特定することが困難になっている
- この変化はサイバーセキュリティのリスク構造そのものを劇的に変貌させている
4. テクノロジーにおける「競争」から「ミッション」への転換
- 先端技術を巡る米中などの関係を「競争」と捉える枠組みは適していない
- 誰かが勝利して他方が敗北するゼロサムゲームや、人間の理解を超えた特異点(シンギュラリティ)へ急ぐ争いは意味をなさない
- 目指すべきは「宇宙ミッション」のように、未解決の課題を定義して協力者を増やしていくアプローチである
- ハルシネーションの解消など信頼できる技術を確立できれば、利用者全員が恩恵を享受できる
5. 逆ケンタウロス化を防ぐ教育のあり方
- 機械が意思決定し人間がその作業に従う「逆ケンタウロス」のリスクが懸念される
- 成績や順位など「ロボットのような行動」を評価する教育制度は、人間から考える機会や共同体を奪う結果となる
- 好奇心、協働、ケアなど「人間らしく行動すること」を評価する教育への転換が求められる
- AIは人間同士のチームワークやコミュニケーションを補完する道具として位置づけるべきである
6. AI時代における「人間の仕事」の変容
- 文字起こしや単なる通訳など、一部の機械的作業はAIへ置き換わり言葉の意味自体が変化していく可能性がある
- 自動化が進むことで、人間は「人と人との関係にかかわる仕事」へ時間を使えるようになる
- 司祭、セラピスト、介護者のように、時間をかけて信頼や共感を築く本質的に精神的な役割はAIに代替できない
- 人間の労働はケア・エコノミーやリレーショナル・エコノミーへと移行していく
7. テクノロジー導入と「CIP=集合知プロジェクト」による民主的ガバナンス
- 新技術の使用を説得するのではなく、誰もが扱いやすいようにテクノロジー側を人間に近づけるアプローチが有効である
- テクノロジーは単に効率化を目指すものではなく、人々と家族や友人とのつながりを回復・強化する手段であるべきだ
- タン氏はAnthropicやOpenAIとも連携する「CIP=集合知プロジェクト(Collective Intelligence Project)」に参加している
- CIPの一環である「憲法AI」では、市民約1000人の意見を集めてClaudeの基本原則にアクセシビリティ優先などの視点を反映させた
- 市民が理解可能な言葉でルールを議論・提案することで、AIガバナンスをより民主的に運用できる
8. AIの軍事利用と「防御優位」の実現
- 他国を侵略する意図を持たない国は、防衛専用のテクノロジー投資に特化することができる
- AIで協調制御されたドローン技術などは、少数の兵士でも大規模な攻撃に対抗できる「防御優位」を構築する手段となり得る
- 技術の方向性を防衛に固定することで、他国からの攻撃に対して決して敗れない体制を整えることが可能である