出于对 GDPR 的担忧，意大利禁止 ChatGPT

意大利数据保护机构周五立即发布命令，要求 OpenAI 停止本地数据处理。该禁令是由于人们越来越担心该公司因其处理数据的方式以及缺乏对未成年人的控制而违反了欧盟的通用数据保护条例 (GDPR)。

尽管意大利可能是第一个启动免费使用 ChatGPT 的国家，但很明显，人们对人工智能的担忧一直在迅速增加。几天前， 数以千计的人工智能专家呼吁立即暂停此类技术，直到政策制定者有时间根据创新调整法规，意大利才颁布禁令。

然而，该禁令凸显出此类 AI 法规确实已经存在，至少在世界某些地区是这样。由于 GDPR 及其保护公民个人数据的法律，意大利立法者已经拥有对 OpenAI 实施此类禁令的合法权力。但这项禁令对人工智能的未来意味着什么？

AI 在 GDPR 下的合法性如何？

欧洲的 GDPR 法律可能是全球最严格的法律之一，高度重视个人数据保护，而不是商业利益。在意大利宣布ChatGPT禁令之前，欧洲立法者已经在尝试解决随着先进人工智能技术的发展而出现的许多棘手问题。

其一，数字个人数据的全球性越来越难以追踪和管理。

例如，ChatGPT-4 之前透露，其算法是根据从互联网上收集的数据进行训练的，其中包括 Reddit 等开放论坛。众所周知，它会产生关于直接命名的个人的虚假信息。除了对错误信息的明显担忧之外，它还使像 OpenAI 这样的公司容易受到与欧洲人个人数据权利相关的一系列问题的影响。

在 GDPR 指导方针下更广泛地涉及 AI 技术时，它也打开了一堆蠕虫。对 OpenAI 的禁令表明，默认情况下，机器学习算法通常可能违反 GDPR，因为该技术依赖于大量数据，这些数据在某些时候可能包含个人信息。

不仅仅是欧盟的担忧

公开暂停呼吁暂停先进人工智能的发展，其中包括一些知名人士，他们一直是技术进步和创新的臭名昭著的倡导者。再加上TikTok 出现在美国国会面前，源于类似的数据使用问题。

在数据隐私法规方面，欧洲及其 GDPR 立法目前可能领先于其他国家，但最近几周发生的事件表明，数字技术的进步及其对我们数据的依赖需要更仔细的检查。

尽管数据在商业或其他方面被技术使用的方式是一个棘手的问题，无法在一夜之间得到解答，但Politico确实将这个烫手山芋丢给了 ChatGPT 本身，具体涉及 GDPR 法规。

回应让我们深思：“欧盟应该考虑将生成式人工智能和大型语言模型指定为‘高风险’技术，因为它们有可能产生有害和误导性的内容。欧盟应考虑实施一个负责任的开发、部署和使用这些技术的框架，其中包括适当的保障措施、监测和监督机制。”

本文最初由 Katie Konyn 在150sec上发表。