人工智能的阴暗面：我们的潜意识是如何处于危险之中的

　　正如剑桥分析公司丑闻所揭示的那样，新的研究调查了人工智能在获取我们潜意识方面的潜在滥用。它批评欧盟拟议的人工智能监管在防止潜意识操纵方面的不足，强调在我们这个日益数据驱动的世界里，需要加强隐私保护。

　　利用Facebook上数百万人的个人数据和先进的数据分析来影响美国和英国的政治结果，曾经是属于科幻小说领域的概念。然而，2018年剑桥分析公司(Cambridge Analytica)的丑闻让这一设想变成了现实。这一事件凸显了技术和机器智能的快速发展如何带来了以前无法想象的新的伦理挑战和困境。

　　由神经权利基金会领导的神经权利倡议倡导承认一套新的保护措施，以应对这些技术进步的挑战。其中一些正在与欧盟管理机构目前正在谈判的《人工智能法案》(Artificial Intelligence Act)进行讨论。除其他事项外，这项法律必须规范人工智能影响我们潜意识的能力(类似于剑桥分析公司的案例，但在更深层次上)。

　　加泰罗尼亚Oberta大学(UOC)法律与政治学院院长、《智能人工神经回声》(Inteligencia artificial neuroderechos, Aranzadi, 2023)一书的作者伊格纳西·贝尔特兰·德·埃雷迪亚(Ignasi Beltran de Heredia)刚刚发表了一篇开放获取的文章，探讨了人工智能的进步给我们带来的挑战，并从神经科学的角度对欧盟的最新法案提出了质疑。

　　让人工智能进入我们潜意识的风险

　　据估计，只有5%的人类大脑活动是有意识的。剩下的95%是在潜意识中发生的，我们不仅无法真正控制它，而且我们甚至没有意识到它正在发生。正如贝尔特兰·德·埃雷迪亚(Beltran de Heredia)在他的文章中指出的那样，由于我们的意识和潜意识行为之间相互作用的高度复杂性，以及我们完全缺乏对引导我们生活的力量的控制，我们没有意识到这种非凡的神经活动洪流。

　　然而，这并不意味着人们不受潜意识的影响。“人工智能有两种方法可以做到这一点，”他解释说。“第一个是通过收集人们生活的数据，并创建一个决策架构，引导你做出特定的决定。另一种方法——目前还不太发达——涉及使用应用程序或设备直接产生对我们的潜意识无法抗拒的冲动，以便在潜意识层面产生冲动反应，即产生冲动。”

　　“随着我们逐渐开发出更好、更强大的机器，并与它们的联系越来越紧密，这两种选择将变得越来越普遍。算法将掌握更多关于我们生活的信息，创造工具来产生这些冲动反应将更容易[…]这些技术的风险在于，就像哈梅林的魔笛手一样，它们会让我们莫名其妙地跳舞。”

　　在贝尔特兰·德·埃雷迪亚看来，我们最有可能看到人工智能首次尝试影响人类行为的领域是工作，更具体地说，是职业健康。他认为，目前正在使用许多侵入性技术。其中包括监控公交车司机以检测微睡眠的设备，以及雇主用来监测员工工作时压力和注意力水平的脑电波的脑电图(EEG)传感器。“很难预测未来，但是，如果我们不在这些侵入性技术仍处于发展的早期阶段时加以限制，最有可能的情况是，它们将以生产力的名义不断改进并伸展它们的触须。”

　　欧盟提出的(模糊的)限制

　　欧盟目前正在讨论的新的人工智能法规旨在预测人工智能的这种和其他用途可能带来的未来风险。原法案第5.1条明确禁止将能够在非意识层面影响他人以扭曲其行为的人工智能投放市场、投入使用或使用。然而，从那时起逐渐引入的修正案和修改逐渐淡化了禁令的绝对性质。

　　目前的法案将被用作法律最终措辞的参考，该法案规定，只有在以下情况下才禁止使用此类技术:有意操纵或欺骗，严重影响一个人做出明智决定的能力，使他们做出原本不会做出的决定，并以某种方式对某人造成重大伤害。此外，该禁令不适用于经批准用于治疗目的的人工智能系统。

　　“根据该提案，人工智能禁令将适用于造成严重伤害的情况，并且该人最终做了他们本来不会做的事情。但这是一个不切实际的标准。如果我不能进入我的潜意识，我就不可能证明我在没有刺激的情况下会做什么，我也无法证明它的危害[…]如果潜意识广告现在完全被禁止，那么我们为什么要给人工智能的潜意识条件反射留下空间呢?”

　　根据贝尔特兰·德·埃雷迪亚的观点，如果我们对潜意识敞开大门，即使有很好的理由，我们也无法控制谁能进入它，如何进入它，以及进入它的目的。有些人可能认为，这些担忧属于一个不太可能出现的反乌托邦未来。然而，毫无疑问，我们已经在几年前难以想象的深度受到侵犯，公众应该得到尽可能充分的保护。我们的潜意识代表了我们最私密的自我，应该完全与外界隔绝。事实上，我们甚至不应该讨论这个问题。”

　　关于我们的大脑是如何工作的，以及我们的意识和潜意识是如何相互作用的，我们还有很多不知道的。大脑仍然是一个非常难以捉摸的器官，尽管科学在这一领域取得了长足的进步，但我们对大脑功能受到某些刺激影响的许多方式还不了解。“我们需要意识到，让其他人和公司如此深入地了解我们内心的风险。在数据经济的背景下，许多公共和私人机构都在竞争获取我们的信息，但矛盾的是，事实一次又一次地表明，个人不太重视自己的隐私，”他总结道。

　　参考资料:Ignasi Beltran de Heredia Ruiz编写的“关于人工智能技术的条件改进算法:关于análisis crítico关于Unión欧洲人工智能技术的建议”，2023年9月5日，《

　　年9月5日-

　　年9月5日-

　　年9月5日-

　　年9月5日-

　　年9月5日-

　　年9月5日-

　　年9月5日-

　　年9月5日-

　　年9月5日-

　　年9月5日-

　　年12月15日-

　　年12月15日-

　　年12月15日-

　　年12月15日-

　　年12月15日》。DOI: 10.22201 / fder.24488933e.2023.286.86406

　　分享

　　推特

　　REDDIT

　　电子邮件

　　分享

　　以前的文章

　　更多关于sciitechdaily

　　健康

　　健康

　　化学

　　生物学

　　空间

　　技术

　　健康

　　健康