玩币族移动版

玩币族首页 > 币圈百科 >

紧急提醒!AI背后的霸王条款让人心惊!

来源:51CTO技术栈

作者:千山

疫情期间,远程办公成为刚需,一批视频会议工具随之起飞。Zoom就是其中的佼佼者。不过最近,Zoom摊上事了。

软件自由保护协会(SFC)呼吁开源开发者停止使用Zoom视频会议,因为这款应用被曝出了一条丑闻。

今年3月,Zoom悄悄修改了其人工智能友好服务条款的细则,在第10.4节中加入了一个条款,规定视频聊天业务使用“客户内容”训练机器学习模型的权利是永久的、免版税的。一时引起舆论哗然。

出尔反尔的始作俑者

许多公司似乎热衷于扩展自己对用户生成数据的处理能力,同时限制其他公司对此类数据的处理。在Zoom改变规则的一个月前,微软采取了类似的措施,修改了服务条款,让AI增强的必应在处理和存储用户输入内容方面有更大的自由。

今年7月,这家巨头表示,将在9月底修改微软服务协议(Microsoft Services Agreement),以限制逆向工程和数据提取。与此同时,《纽约时报》修改了其服务条款,明确表示其内容不能用于训练人工智能模型。Reddit和Twitter也采取了类似措施,防止网站数据被喂给AI模型。

直到本月早些时候,Zoom暗搓搓的举动才被曝光受到了广泛关注,随后Zoom在8月7日以一篇博客回应了因此事而引起的反对声浪。为了进行弥补,该公司修改了第10.4节中的获取性服务条款,“尽管有上述规定,未经您的同意,Zoom不会使用音频、视频或客户聊天内容来训练我们的人工智能模型。”

图源:Zoom Blog

戏剧性的是,四天后,也就是8月11日,Zoom再退一步,重写了第10.4节细则,去掉了限定词“未经您同意”,直接表示,拒绝将客户内容用于机器学习。

“Zoom不会使用您的任何音频、视频、聊天、屏幕共享、附件或其他客户通信内容(如投票结果、白板和反应)来训练Zoom或第三方人工智能模型,”该公司的法律文件目前写道。

来自开源界的一记重锤

尽管Zoom似乎想将前事一笔勾销,但依然有人表示已经受够了。这次振臂一呼的带头大哥是软件自由保护协会(SFC)。

软件自由保护协会(SFC,Software Freedom Conservancy)成立于2006年,是一个旨在为自由开源软件项目提供支持和基础设施的非营利组织。长期以来,SFC一直得到Google、红帽等多家公司的财务支持。

SFC于周二明文写道:“在疫情期间以及广泛采用Zoom的过程中,我们警告说,依赖专有的、以营利为目的的受控技术作为必要的基础设施是危险的。”“上周,Zoom向我们展示了为什么所有人都必须停止使用他们的服务,不能再拖延了。”

为了助力实现这一目标,SFC表示,它将采用BigBlueButton的开源聊天软件,作为该组织基础设施的正式组成部分,该软件之前只对FOSS成员项目开放。SFC表示,任何FOSS贡献者如果需要使用视频聊天服务,都可以申请使用。

当被要求就SFC要求放弃Zoom的呼吁发表评论时,Zoom的一位发言人指出,该公司已经于8月11日撤销了其相关条款,并发送了一份声明副本,否认使用任何相关用户数据来训练Zoom或第三方人工智能模型。

外媒The Register对此做了进一步追问:那么在条款更改之前,Zoom是否真的曾使用客户内容来训练人工智能模型呢,就像SFC声称的“发现Zoom将私人用户数据重新用于训练机器学习模型”,还是说Zoom只是“赋予”了自己这样做的权利,而没有实际这么做。

Zoom的发言人则表示,没有进行过这样的训练。

不管Zoom如何否认,SFC并不买账。它在公开发文中援引了Zoom在3月改条款的举动作为放弃该应用的理由,尽管它也承认,Zoom当前已经改变了立场,并试图与这场AI权利之争保持距离。

SFC表示:“在广泛的抵制和负面报道之后,Zoom修改了他们的服务条款,表示他们不会使用任何用户参与Zoom会议的数据来训练他们的模型。”

“但令人沮丧的是,在令人难以置信的冗长和充满法律术语的服务条款中,Zoom保留在任何时候更改条款的权利。”

最近的一项分析表明,阅读Zoom的条款和条件可能需要长达30个小时的时间,SFC希望FOSS社区重新考虑对Zoom软件的依赖。

GitHub曾是前车之鉴

去年,SFC对GitHub采取了类似的立场,原因是GitHub在被微软收购后推出了编程助手Copilot,Copilot很快开启了收费模式。可关键在于Copilot是建立在开源社区代码研究之上,这引来了业界一些组织的强烈不满。

Copilot的发布引发了一系列问题。开源并不意味着完全免费,仍然需要满足许可证要求和归属要求,Copilot从来不是什么“原生AI代码生成器”,因此如果Copilot从一个项目“复制黏贴”代码并将其推荐给另一个项目的作者,“谁”是软件的实际编写者就会存在争议,这一做法可以说为版权侵权诉讼打开了潘多拉之匣。

SFC也是反对者中的一员,他们呼吁停止使用微软GitHub开展项目托管,并敦促其他软件开发者一同退出。

图源:https://sfconservancy.org/GiveUpGitHub/

政策研究员布拉德利?库恩表示,SFC没有微软这样的公司资源来收集数据,以评估其放弃GitHub活动的影响,而且GitHub的服务条款禁止通过搜索GitHub账户来找到GiveUpGitHub的标志。

库恩说:“我们还定期与FOSS项目的贡献者交谈,他们迫切希望长期摆脱GitHub。”在他看来,面向社区的FOSS项目普遍都不想留在GitHub,但GitHub的损失领导者(Loss Leader)专有产品的网络效应让他们陷入了困境。他将这种情况比作摆脱化石燃料汽车的挑战。

库恩补充说:“我们也认为Exit Zoom或GiveUpGitHub活动不会很快发生。”

“这些专有服务的全部问题在于,它们会渗透到企业的工作流程中,要想摆脱它们,需要付出大量的、有时甚至是艰巨的努力。”

尽管如此,库恩表示,尽管资源有限,SFC在推动人们摆脱对专有服务和软件的依赖方面取得了进展。他说,SFC一直在与俄勒冈州立大学的开源实验室进行长期谈判,以开发GitHub托管的替代品。另外,Sourceware项目最近也加入了SFC,为某些项目提供基于开源软件的托管服务。

“在Exit Zoom方面,你可以从我们的公告中看到,在过去的一周里确保我们准备好立即向FOSS社区的成员提供基于BigBlueButton的服务。”“由于视频聊天只是一项服务,基本上是一个需要维护的软件包,相信我们可以为需要视频聊天但想要退出Zoom的FOSS贡献者提供面向外部的服务。相比之下,GiveUpGitHub需要更长的时间。”

在隐私与便利之间,我们一定要二选一吗

总体看来,无论是呼吁放弃GitHub还是离开Zoom,SFC正在取得一些进展,但也面临极大的阻力,但可以肯定的是,这必然会对相关组织施加相当的压力,促使其改变麾下产品的运作模式并为使用者提供更多的透明度。

但就事件本身来说,随着人工智能技术的发展,大模型、AIGC等应用继续狂飙突进,这种伴随技术而生的隐私侵犯,几乎所有人都无法抵抗。那么到底有没有不可逾越的底线呢?这个底线又会落在什么地方呢?

在这波技术浪潮中,用户数据逐渐成为最昂贵又最廉价的资源。站在用户角度,无论是被侵犯隐私数据还是被侵犯知情权,似乎总是被动的。

不可否认,不少人会因为某些便利而同意放弃隐私。大致可归因为三点:

其一,默认为了现实生活的便利可以让渡自己的隐私,而且人人皆是如此,那么不如从众,据理力争也是费力不讨好。

其二,商家有意将某些涉及隐私的条款藏于冗长且术语繁多的协议之后,就如Zoom的服务协议仅读完就需要30小时,少有人有足够的耐心、时间和知识储备去细究原委;即使有人追究,还有万能的“最终解释权归商家所有”。

其三,不同的人对于隐私的理解、重视程度以及隐私泄露带来的风险,认识程度不同。

但事实上,无论技术如何发展,用户数据都不应该是堂而皇之被利用、被出卖的东西。在长久的思辨中,与其追问“你愿意为了便利而牺牲一部分隐私吗”,不如从源头上警醒,一定要在隐私和便利之间二选一的社会不应该是我们追求的社会。

参考链接:

https://www.theregister.com/2023/08/15/software_freedom_conservancy_zoom/

https://blog.zoom.us/zooms-term-service-ai/

知识: