僕もこの立場であり「都民の生命、健康、財産などに重大な影響を及ぼす事業においては、人間の目視チェックと承認を経て表示させるようにすること」などというルールをつけることは「正しい確率の高いAIの判断を正しい確立の低い人間でチェックする」という無駄な仕事に都民の税金が浪費されることになるから有害だと思う。
だが、まあ歩み寄るなら「AIの判断と人間の判断がそれぞれどの程度間違いうるのか」をきちんとデータを取って エビデンスベースで政策決定すべき という形になら同意できる。人間の方が優れていることがデータで示せたのなら人間によるチェックを義務付けてもいい(ただし定期的にデータを取り直して検証する必要がある)