2019年8月に鮮烈なデビューを飾った米アップルの独自クレジットカード「アップルカード」が、思わぬ形で全米の注目を集めています。洗練されたデザインとiPhoneとの親和性が話題を呼ぶ一方で、その裏側にある「審査の仕組み」に対して、公平性を欠いているのではないかという厳しい視線が注がれているのです。
事の発端は、著名なソフトウェア技術者であるデイヴィッド・ハイネマイヤー・ハンソン氏が2019年11月7日に行ったSNSへの投稿でした。同氏によると、自分と妻がそれぞれカードを申し込んだところ、妻の利用限度額が自身の20分の1という極端に低い設定になったといいます。この驚くべき格差が、テック業界に大きな衝撃を与えました。
ハンソン氏夫妻は納税申告を共同で行っており、個人の信用力を数値化した「クレジットスコア」も、実は妻の方が高い評価を得ていました。それにもかかわらず、審査結果には巨大な開きが生じています。同氏は、審査に用いられているアルゴリズム（計算手法）が、性別を理由に不当な判断を下していると強く批判を展開しました。
アルゴリズムとは、膨大なデータから一定の答えを導き出すための計算ルールのことです。金融業界では効率化のために導入が進んでいますが、もし学習データに偏りがあれば、人間が意図しなくても「差別的な判断」を自動で再現してしまう恐れがあります。今回の騒動は、まさにその危うさを浮き彫りにした形でしょう。
アップル共同創業者も同調、ニューヨーク州当局が調査へ
この批判のうねりは、さらに意外な人物の参戦によって加速します。アップルの共同創業者であるスティーブ・ウォズニアック氏が、2019年11月9日に「自分たち夫婦も全く同じ状況だ」と賛同の意を示したのです。レジェンド的な存在である彼の発言により、単なる個人の不満を超えた社会問題へと発展しました。
ネット上では「自分も妻より限度額がずっと高かった」「AIの判断基準がブラックボックス化していて不気味だ」といった不安の声が次々と上がっています。最新技術を駆使したスマートな体験を提供するはずのサービスが、皮肉にも「透明性の欠如」という壁にぶつかってしまった印象を拭い去れません。
事態を重く見た米ニューヨーク州金融サービス局（DFS）は、2019年11月10日に本格的な調査を行うと発表しました。性別に基づいた差別を禁じる州法に違反していないか、厳格なチェックが行われる見通しです。法的な基準が、テクノロジーによる自動判定にどこまで踏み込めるのかが焦点となります。
私は、今回の問題は単なるエラーではなく、現代のテック企業が直面する「倫理的な試金石」だと考えます。効率を優先するあまり、人間が大切にしてきた公平性や説明責任が置き去りにされてはいけません。アルゴリズムが私たちの生活を左右する今、その正義を誰が担保するのか、深い議論が必要な時が来ています。
コメント