大義のためにデザインする | デザインの目的に倫理を組み込む方法

Creative Cloud エンタープライズ

アドビの「Design is Power」プログラムでは、このような記事の他にも様々なリソースやアイデアをデザインリーダーの皆様にお届けしています。

固く守るべき秘密の1つであると歴史的に見なされてきたもの、すなわち私たちの医療データは、わずか数年前には夢にも思わなかった方法で、追跡され、分析され、共有されるようになっています。医療データを共有することには多くのメリットがありますがリスクも伴います。

今では直系の祖先に関するデータを利用して、自分が深刻な病気に遺伝的にかかりやすいかどうかを突き止めることができます。しかし、保険会社はこの同じ情報を私たちに不利になるように使用する可能性があります。自分の心拍数、1日あたりの歩数、その他の健康に関する測定値を記録できますが、そうすることで、自らのデータに関する権利を放棄して、データを企業の手に渡してしまっているかもしれません。そうした企業の一番の関心事は最終的に収益を得ることであり、私たちの健康ではありません。

このような倫理的な懸念は、開発や設計をおこなうすべてのアプリケーションに存在しますが、特に医療に適用されるときに高まります。社会に及ぼすリスクが大きくなるためです。私たちが直面する倫理的な問いに対する簡単な答えはありません。しかしながら、医療アプリの設計における最も厄介な問題をいくつか見て、誰もが考慮しなければならない倫理ガイドラインをまとめることから始めましょう。

透明性からスタート

「価値があるのは、お客様と築く関係と、お客様が寄せてくださる信頼です。信頼を失えば、利益の基盤を含めすべてを失います。
だからこそ、倫理と信頼を最重要視することが大切です」— Andy Vitale氏(SunTrust Bank卸売銀行業務部門ユーザーエクスペリエンス担当重役、元3M Health Careユーザーエクスペリエンスデザイン主任)

信頼こそ、あなたが設計するものに人を関与させる鍵となる要素です。設計と意思決定において優先しなければならないのは信頼です。このような信頼を築くには透明性を確立することが不可欠です。これには、データの収集、格納、使用をどのようにおこなうかをお客様と共有することが含まれます。

しかしながら、多くの医療アプリケーションはお客様からの信頼を得ていません。最近のAccentureの調査では、医療アプリを開発するテクノロジー企業は、医療データの保護に関する信頼度でワースト2位となりました。その一方で、医師や他の医療従事者は高い信頼を得ていました。多くの医療アプリが、データの使用方法について、または収集方法に関してさえ、透明性を提供できていないことを考えれば、この信頼の欠如は驚くべきものではありません。

Journal of the American Medical Association(JAMA)で発表された2016年の研究では、調査対象の糖尿病向けアプリ211個のうち81%がプライバシー基準を利用者に通知していませんでした。プライバシーポリシーがあるアプリでさえも、そのうち80%がユーザーデータを収集し、49%がそのデータを共有していたにもかかわらず、データを共有する許可をユーザーに取ると回答したのは10%未満(4個のアプリのみ)でした。

上記の研究からわかる透明性の欠如は、消費者を苦しませるだけではなく、設計者も苦しめることになります。お客様は、データが保護される確信が持てないとき、問題を解決することができ、信じることもできる別のアプリケーションを探す可能性が高いからです。

セキュアなデザインは倫理的なデザイン

お客様のデータを保護することも、同じように信頼を得るために重要な手段です。サイバー犯罪によるデータ侵害からの保護は別として、倫理的なデザインでは、アプリを使用する従業員やお客様を自身のセキュリティ意識の欠如から保護する方法も考慮する必要があります。

Vitale氏は、意図的ではないものの、医療データが従業員によって適切に保護されないケースを複数見てきたと話します。ただし、多くの場合、問題の一部はアプリの設計によるものと指摘しています。「テクノロジーがエンドユーザーのニーズに対応していないと、しばしばエンドユーザーは対処方法を探そうとします」 とVitale氏は言います。

HIPAA Journalに発表されたHIMSS Analyticsによる最近の調査では、医療データの最大のセキュリティリスクは従業員のセキュリティの意識の低さにあると報告されています。調査対象のうち圧倒的多数である74%が、従業員のセキュリティ認識は、情報流出の可能性に関する主要な懸念事項の1つであると回答しています。

倫理的なデザインでは、このような「ヒューマン」 セキュリティリスクを特定して、リスクを低減する方法を見つけられる可能性があります。また、見つける必要があります。Vitale氏のケースで彼とそのチームが理解したのは、医療プログラマーがデータに対して共同で作業をおこなう必要があったということでした。そのため、チームはクローズドシステム内で共同作業をおこなうツールを構築して、個人データが漏えいしないようにしました。

デザインを共同作成プロセスにする

もう1つの倫理的な懸念はデザインバイアスです。健康を増進するという目標と利益を出すという目標の間ではかなりの葛藤が生じます。そして、これがデザインにおける選択に影響する可能性があります。

民間企業のデザインバイアスの例として、試験時に酸化窒素排出を減らして排ガス試験に合格させるようにしたフォルクスワーゲン社のアルゴリズムがあります。スタンフォード大学医科大学院の研究者たちは、医療においても同様の問題が発生する可能性があると考えています。例えば、お金を節約するという目標のために設計すると、アルゴリズムにバイアスが生じるかもしれません。つまり、患者にとって最適な治療方法ではなく、患者の保険のステータスや支払能力にもとづいて治療方針の提言がおこなわれるようになるのです。

設計のプロセスで関係者やお客様との共同作業をおこなうと、本当の問題が何か、そしてそれをどのように解決するかということに、設計の目的を合わせ直すことができます。また、設計プロセスの説明責任が明確になる点でも役立ちます。例えば、フォルクスワーゲンのケースでは、自動車の排ガス試験をおこなう技術者が設計プロセスにかかわっていれば、結果としてアルゴリズムの不正が生じる可能性はかなり抑えられたでしょう。

善のためのデザイン

 医師は「何よりも害を成すなかれ」 という義務を負うヒポクラテスの誓いに従って倫理的な意思決定をおこないます。今のところ、AIおよび機械学習テクノロジーの設計者や意思決定者にはそのような助言は存在していません。しかしながら、私たちは同じようなフレームワークを作成できると信じています。設計者が以下に従うことで「何よりも害を為なすなかれ」 の誓いを立てることができます。

  • 利益ではなく人間の問題に集中する
  • すべてのレベルで透明性を実現する
  • 人間のニーズに共感してデザインする

手を上げて宣誓する準備はできていますか?

POSTED ON 2020.02.20