布鲁塞尔目前整讨论一项法律草案,为了监控有可能对儿童实施的犯罪行为,将特定系统引入手机,查看所有人手机上的全部信息。
若此项法律通过,所有人手机上的照片和所有信息都将被AI系统监控,AI将自动搜索手机上的信息。若AI 检索到手机内有虐待儿童的信息,将直接把内容转发给执法部门。
此举受到强烈批评,专业人士表示,“大规模信息搜索不仅无效,而且还会从根本上攻击机密通信。犯罪分子可能通过其他渠道发送信息,逃避AI检索很容易。”
德国媒体winfuture则认为,数亿用户的隐私只此遭到侵犯并不值得。而且AI也会犯错误。即使是最小的错误也会成为巨大的问题。在德国,每天就有超过 50 亿条信息被发送,即使系统运行得几乎完美,当局每天仍会收到数千条信息和图像。
苹果曾经也想引入类似的程序,但在强烈抗议后不得不放弃。此项法律草案恐怕也难以推行。