反思AI的科技災難
荷蘭托兒津貼醜聞全球數位治理史上的科技災難，更催生了歐盟人工智慧法案對演算法的枷鎖
為數位轉型與打擊詐欺，荷蘭稅務及海關管理局為節省人力，引入了一套具自我學習能力的演算法風險評分系統
然而，這套系統在特徵工程上嵌入了最嚴重的種族主義地雷
演算法將「雙重國籍」與「移民背景」直接設定為潛在詐欺的高風險特徵，凡具有土耳其、摩洛哥或蘇利南血統的移民，風險評分會被非理性拉高
當局更將這群特定納稅人秘密標記於黑名單中，當事人完全無從得知或申訴
官員採取全有或全無的嚴苛政策，只要申請人出現微小的行政疏失或文件漏字，便直接擬制為蓄意詐欺，要求全額返還過去數年領取的所有津貼，金額常達數萬歐元，將經濟弱勢的單親與低收入家庭推向財務斷崖
科技執法所引發，是震驚全歐的人道災難，事件共造成約2.6萬至3.5萬個家庭受害，引發大規模破產、失去住房及婚姻破裂
超過2千名兒童因父母被政府榨乾財務、無力負擔生活所需，被當局強制帶離家庭並交由寄養家庭照顧
直到真相曝光，這場歧視執法被認為是國家發動的制度性種族主義
並導致首相領導的內閣為承擔政治責任宣布總辭，稅局也被裁罰275萬歐元
為數位轉型與打擊詐欺，荷蘭稅務及海關管理局為節省人力，引入了一套具自我學習能力的演算法風險評分系統
然而，這套系統在特徵工程上嵌入了最嚴重的種族主義地雷
演算法將「雙重國籍」與「移民背景」直接設定為潛在詐欺的高風險特徵，凡具有土耳其、摩洛哥或蘇利南血統的移民，風險評分會被非理性拉高
當局更將這群特定納稅人秘密標記於黑名單中，當事人完全無從得知或申訴
官員採取全有或全無的嚴苛政策，只要申請人出現微小的行政疏失或文件漏字，便直接擬制為蓄意詐欺，要求全額返還過去數年領取的所有津貼，金額常達數萬歐元，將經濟弱勢的單親與低收入家庭推向財務斷崖
科技執法所引發，是震驚全歐的人道災難，事件共造成約2.6萬至3.5萬個家庭受害，引發大規模破產、失去住房及婚姻破裂
超過2千名兒童因父母被政府榨乾財務、無力負擔生活所需，被當局強制帶離家庭並交由寄養家庭照顧
直到真相曝光，這場歧視執法被認為是國家發動的制度性種族主義
並導致首相領導的內閣為承擔政治責任宣布總辭，稅局也被裁罰275萬歐元
