消失十年的舒马赫,给AI造假定了“起步价”

“Funke媒体集团向舒马赫家人赔偿20万欧元”这一结果不仅是舒马赫及家人的胜利,也是新闻领域的重要时刻,这应该是法律层面第一次对新闻行业滥用生成式AI表明了立场,也是法律上首次给借AI捏造违反新闻伦理和人类道德的造假行为做了一次“定价”。

“造假”舒马赫在法律上有了结果,给后续想要再借AI和生成式技术做突破人类道德底线和新闻伦理行径的人发出了警告,即便利益在前,他们也必须更加谨慎行事,在AI造假史上极具里程碑意义。

十多年未公开露面的“车王”舒马赫(Michael Schumacher)或许已经很难想象人工智能时代的世界,也包括身处其中,新闻伦理和人类道德的底线正变得如此不同。

5月22日,舒马赫方面和德国Funke媒体集团旗下的杂志《Die Aktuelle》之间的法律诉讼终于出了结果。慕尼黑劳工法院认为Funke媒体集团及旗下杂志对舒马赫及家人造成了重大伤害,Funke媒体集团向舒马赫家人赔偿20万欧元。

事出一年前。2023年4月15日,《Die Aktuelle》刊登了一张舒马赫微笑的照片,并在旁边配上“Welt-Sensation”“Michael Schumacher Das erste Interview”两个放大的标题,翻译成中文就是“轰动世界”、“迈克尔·舒马赫的首次采访”,以吸引读者的眼球。

舒马赫于2013年底在一次滑雪事故中头部受重伤,几乎丧命,自此再未在公众场合露面。十多年间,有关他的健康状况及隐私都被家人严格保密,且一直保护得很好。

在舒马赫16年的F1职业生涯中,他总共拿下91场比赛的胜利,并7次获得年度车手总冠军,被业界和车迷冠以“车王”称号。即便从公众视野消失十多年,但他在F1车迷和来自世界各地粉丝心中的分量不减分毫,自舒马赫受伤以来,他的粉丝通过后援会、社交媒体、线下活动等多种途径和方式表达对“车王”的支持。

在X平台上,舒马赫的专属标签#KeepFightingMichael#至今每天都有诸多参与者。

不过,除了向外界展现舒马赫在当下仍具备世界级的影响力和号召力的同时,也让其仍然可以成为一个顶级流量来源,是传统媒体和社交平台们都趋之若鹜的潜在话题。

全民社交时代,流量即利益,这也是《Die Aktuelle》制造“AI舒马赫”的推手。

近年来以AI形式扮演名人制造“对话”案例实际上并不少。但这篇有关报道最为人诟病的是,它极其误导性地暗示了舒马赫披露的是关于全世界最关注的有关他身体健康的细节,文中引用了“舒马赫”的话,还讨论了他在滑雪事故后的身体状况以及近十年来的生活。

人们也很快发现《Die Aktuelle》的这篇报道是利用人工智能伪造的,虽然该杂志事前为自己留了两手:一是在杂志封面的最下方用小了好几号的字体写着,“Es klingt täuchend echt(这听起来让人难以置信)”;二是在文章末尾承认采访中的舒马赫“引语”全是由人工智能生成的。

但该事件一出,全世界舆论哗然。外界最大的批评正是认为该杂志严重侵犯了病人的隐私、突破了人类道德底线和新闻伦理标准。

舒马赫家人在新闻出来6天后发表公开声明,“计划对Funke旗下的这家杂志采取法律行动。”

Funke媒体集团在舒马赫家人称要对其提起法律诉讼后做出回应,“《Die Aktuelle》杂志总编即日起被解雇,”后者从2009年以来一直任该杂志总编,此外在道歉声明中,Funke解释称,“这一既没品位、又具误导性的文章本应不该出现,它绝对不符合我们及读者对Funke这样的出版商所期待的新闻标准。”

《Die Aktuell》杂志向来专报德国名流花边新闻,与舒马赫家族渊源颇深。早在2014年,即车王受伤的第二年,该杂志还刊登了一张舒马赫和妻子的照片,标题是“醒来”,2015年还捏造过舒马赫妻子的“私生活”。

“Funke媒体集团向舒马赫家人赔偿20万欧元”这一结果不仅是舒马赫及家人的胜利,也是新闻领域的重要时刻,这应该是法律层面第一次对新闻行业滥用生成式AI表明了立场,也是法律上首次给借AI捏造违反新闻伦理和人类道德的造假行为做了一次“定价”。

这次判决再次引发了全世界对AI捏造新闻报道的反思。

自2022年底,ChatGPT的走红引爆了全球对生成式AI技术的应用和投资浪潮,生成式AI技术在不同场景中被不断解锁。虽然为人们的衣食住行,以及体育、娱乐等内容生产带来诸多便利,但其中暗藏的利益空间也对人类道德、伦理底线提出了挑战。

人工智能的普及,生成式AI技术的飞速发展给造假和伪造提供了肥沃的土壤,“每当有新技术出现时,人类都希望将其推向极限”,The Ohio State University传播学副教授Nicole Kraft对AI的快速发展忧心道。

轰动全球的AI“造假”事件早已有之,其中一些事件引发的恐慌和导致的结果比“造假”舒马赫更甚:

2017年以来,借AI算法制造假新闻频繁发生在政界以及选举中。

2019年,据韩国MBC报道,一款名为“Lee Luda”的AI语音软件可以模仿任何人的声音,甚至可以让他们说出未曾说过的话,此新闻一出,引起全球对此类技术是否会导致虚假和误导性信息传播的激烈讨论。

2022年,Podcast.ai利用生成式人工智能技术,通过Play.ht的语言模型大量训练,模拟出了已故的乔布斯,并做成了一期20分钟时长的播客节目,音频中,主持人与“复活”的乔布斯探讨了对计算机、个人信仰以及AI等多个话题。外界对“复活”已故科技人士的做法的看法多是“毛骨悚然”,不少网友在社交平台表示,“说到底这是利用AI在全世界面前的一次公开造假。”

2023年11月,ESPN用AI给密尔沃基雄鹿队的利拉德玩“换装”,身穿雄鹿队球衣在接受采访的他,原视频却是此前在效力开拓者队时的采访,ESPN用AI移花接木,在利拉德声音上做了处理,制作了与原始声音源吻合的口型,“又是一次公开造假”。

在中文社交网络上,外界对生成式AI也有批评声,一个重要起因正是一些个人或团体借生成式AI技术做起了去世之人的生意。

网友用AI生成视频和声音“复活”了CoCo李玟、张国荣、乔任梁、高以翔等已故公众人物,制作者称去世公众人物的虚拟视频不做商用,但在视频下方评论区类似“咨询制作逝者视频怎么收费”评论不断,制作者更是给出了明码标价,借AI“造假”引流和卖产品的行径引发舆论哗然和外界质疑。

目前,CoCo李玟的家人已采取了与舒马赫家人相同的做法,为保护个人权利,对这类滥用AI技术的“牟利”行为提起了法律诉讼。不少网友对此表示,“打着温情和怀念故人的幌子,说到底还是生意”,其中潜在的风险不言而喻。

“造假”舒马赫在法律上有了结果,给后续想要再借AI和生成式技术做突破人类道德底线和新闻伦理行径的人发出了警告,即便利益在前,他们也必须更加谨慎行事,在AI造假史上极具里程碑意义。

但在新技术的发展演进过程中,不同国家和地区制定并完善相关监管政策和法律法规的速度不一,惩处标准也不一。所以国内对类似“造假”舒马赫事件在法律层面会给出一个怎样的判罚结果,目前还不得而知。

国家网信办等七部门去年联合发布了《生成式人工智能服务管理暂行办法》,以促进生成式AI健康发展和规范应用,算是国内对生成式AI的首个监管文件。

每逢新技术的出现和发展,对人类都是机遇但也是挑战。在拥抱未来的时候,如何辅以严格监管和出台对应的法律法规,以使其中的风险真正转化为可能的机会,想必将会萦绕在接下来很长一段时间的AI狂潮中。

本文来自微信公众号:懒熊体育 (ID:lanxiongsports),作者:王闪

声明: 该内容为作者独立观点,不代表新零售资讯观点或立场,文章为网友投稿上传,版权归原作者所有,未经允许不得转载。 新零售资讯站仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。 如对本稿件有异议或投诉,请联系:wuchangxu@youzan.com
(0)
上一篇 2024年5月27日
下一篇 2024年5月27日

相关推荐

  • 水温80度:AI行业真假繁荣的临界点

    我们从来没拥有过这么成功的AI主导的产品。

    (这种分析统计并不那么准,但大致数量级是差不多的)

    这两个产品碰巧可以用来比较有两个原因:

    一个是它们在本质上是一种东西,只不过一个更通用,一个更垂直。

    蓝海的海峡

    未来成功的AI产品是什么样,大致形态已经比较清楚了,从智能音箱和Copilot这两个成功的AI产品上已经能看到足够的产品特征。

    未来科技 2024年6月5日
  • ChatGPT、Perplexity、Claude同时“罢工”,全网打工人都慌了

    美西时间午夜12点开始,陆续有用户发现自己的ChatGPT要么响应超时、要么没有对话框或提示流量过载,忽然无法正常工作了。

    因为发现AI用久了,导致现在“离了ChatGPT,大脑根本无法运转”。”

    等等,又不是只有一个聊天机器人,难道地球离了ChatGPT就不转了。

    大模型连崩原因猜想,谷歌躺赢流量激增6成

    GPT归位,人们的工作终于又恢复了秩序。

    未来科技 2024年6月5日
  • ChatGPT宕机8小时,谷歌Gemini搜索量激增60%

    ChatGPT一天宕机两次

    谷歌Gemini搜索量激增近60%

    ChatGPT在全球拥有约1.8亿活跃用户,已成为部分人群工作流程的关键部分。

    过去24小时内提交的关于OpenAI宕机的问题报告

    图片来源:Downdetector

    ChatGPT系统崩溃后,有网友在社交媒体X上发帖警告道:“ChatGPT最近发生的2.5小时全球中断,为我们所有依赖AI工具来支持业务的人敲响了警钟。

    未来科技 2024年6月5日
  • ChatGPT、Perplexity、Claude同时大崩溃,AI集体罢工让全网都慌了

    接着OpenAI也在官网更新了恢复服务公告,表示“我们经历了一次重大故障,影响了所有ChatGPT用户的所有计划。Generator调查显示,在ChatGPT首次故障后的四小时内,谷歌AI聊天机器人Gemini搜索量激增60%,达到327058次。

    而且研究团队表示,“Gemini”搜索量的增长与“ChatGPT故障”关键词的搜索趋势高度相关,显示出用户把Gemini视为ChatGPT的直接替代选项。

    未来科技 2024年6月5日
  • 深度对话苹果iPad团队:玻璃的传承与演变

    iPad最为原始的外观专利

    没错,这就是iPad最初被设想的样子:全面屏,圆角矩形,纤薄,就像一片掌心里的玻璃。

    2010年发布的初代iPad

    好在乔布斯的遗志,并未被iPad团队遗忘。

    初代iPad宣传片画面

    乔布斯赞同这一想法,于是快速将资源投入平板电脑项目,意欲打造一款与众不同的「上网本」,这就是iPad早年的产品定义。

    iPad进化的底色

    苹果发布会留下过很多「名场面」,初代iPad发布会的末尾就是一例。

    未来科技 2024年6月5日
  • 底层逻辑未通,影视业的AI革命正在褪色…

    GPT、Sora均为革命性产品,引发了舆论风暴,但它在上个月发布的“多模态语音对谈”Sky语音,却由于声音太像电影明星斯嘉丽·约翰逊,被正主强烈警告,被迫下架。

    华尔街日报也在唱衰,认为“AI工具创新步伐正在放缓,实用性有限,运行成本过高”:

    首先,互联网上已经没有更多额外的数据供人工智能模型收集、训练。

    03、

    如果说训练“数字人”、使用AI配音本质上瞄向的仍是影视行业固有的发展方向,那么还有另外一群人试图从根本上颠覆影视行业的生产逻辑和产品形态。

    但分歧点正在于此,电影公司希望通过使用AI技术来降低成本,但又不希望自己的内容被AI公司所窃取。

    未来科技 2024年6月5日
  • KAN会引起大模型的范式转变吗?

    “先变后加”代替“先加后变”的设计,使得KAN的每一个连接都相当于一个“小型网络”, 能实现更强的表达能力。

    KAN的主要贡献在于,在当前深度学习的背景下重新审视K氏表示定理,将上述创新网络泛化到任意宽度和深度,并以科学发现为目标进行了一系列实验,展示了其作为“AI+科学”基础模型的潜在作用。

    KAN与MLP的对照表:

    KAN使神经元之间的非线性转变更加细粒度和多样化。

    未来科技 2024年6月5日
  • 这个国家,也开始发芯片补贴了

    //mp.weixin.qq.com/s/tIHSNsqF6HRVe2mabgfp6Q
    [4]中国安防协会:欧盟批准430亿欧元芯片补贴计划:2030年产量占全球份额翻番.2023.4.19.https。//mp.weixin.qq.com/s/VnEjzKhmZbuBUFclzGFloA
    [6]潮电穿戴:印度半导体投资大跃进,一锤砸下1090亿,政府补贴一半.2024.3.5https。

    未来科技 2024年6月5日
  • 大模型的电力经济学:中国AI需要多少电力?

    这些报告研究对象(数字中心、智能数据中心、加密货币等)、研究市场(全球、中国与美国等)、研究周期(多数截至2030年)各不相同,但基本逻辑大同小异:先根据芯片等硬件的算力与功率,计算出数据中心的用电量,再根据算力增长的预期、芯片能效提升的预期,以及数据中心能效(PUE)提升的预期,来推测未来一段时间内智能数据中心的用电量增长情况。

    未来科技 2024年6月5日
  • 你正和20万人一起接受AI面试

    原本客户还担心候选人能否接受AI面试这件事,但在2020年以后,候选人进行AI面试的过程已经是完全自动化的,包括面试过程中AI面试官回答候选人的问题,AI面试官对候选人提问以及基于候选人的回答对候选人进行至多三个轮次的深度追问。

    以近屿智能与客户合作的校验周期至少3年来看,方小雷认为AI应用不太可能一下子爆发,包括近屿智能在内的中国AI应用企业或许要迎来一个把SaaS做起来的好机会。

    未来科技 2024年6月4日