登录 注册

移动新媒体

AI时代,美女真假难辨,你被“她”骗了吗?

2024-09-16 来源:科技旋涡
科技旋涡作者&编辑|孙浩南

网络时代什么最吸引眼球?有人可能会说是美女。

美女确实吸引眼球,但各大平台的推荐来看,真人是更重要的一点。尤其是身处AI发展阶段,各大平台对于AI图片、视频都有着相应的审核制度,为了防止受骗还会进行特殊标注。

但最近的AI已经进化到真假难辨的地步了,你关注的美女博主就有可能是AI生成的,她们不仅骗过了平台推荐,还骗走各位观众老爷的小红心。

1300多个美女都是AI?

曾经有句话叫“跟你聊天的美女背后可能是个抠脚大汉”,现在可能要变成,你百看不厌的美女博主背后可能是一个男人和一堆AI。

近期,网上有人分享了在某平台用AI批量生成美女照片结果成功骗过平台做出1300多个账号的光荣战绩。这里面可能就有令各位观众老爷疯狂心动的那个“她”。

在大多数人的普遍认知中,AI的发展还未到以假乱真的效果,更多的是李逵和李鬼的关系,一眼就能分辨出来。但殊不知,这位网友不但靠AI骗过了平台更是进一步把各位观众老爷的小红心骗走了。

普通人眼中的AI文生图效果是什么呢?五官不自然、AI感明显、六指狂魔等等,我们凭借着引以为傲的眼界一度不把它们放在眼里。此前麦当劳薯条宣传片中用了11位AI美女,就被不少人吐槽有非常明显僵硬的AI 脸和违和感。

但有时候,AI的发展远超我们的火眼金睛。这些能够骗过平台的AI图片和麦当劳AI美女可就不是一个风格和量级的了,来看看你能分辨出来吗?

怎么看这都只是平平无奇的美颜照片,最多是高P精修图,但任谁能发现这全都是AI生成的。经过仔细观察,我们发现可能为数不多的瑕疵在于第一张车座的位置不对,好似人违反物理规则坐在了空气上,另外两张照片是一点看不出AI痕迹。

据说,这些真假难辨的AI美女全都来自Flux,之前以生成各种超高拟真度的人物图片而著称,核心成员都来自Stable diffusion。当然,告诉大家工具可不是让大家去模仿,仅仅只是科普,往下看就知道如果用来盈利会发生什么了。

AI美女生意火热,但合法的不多

今年早些时候,一个APP直播推送页面,有位ID为“靓女百变秀”的账号正在进行直播。直播间内,一位身穿紧身衣的女主播卖力地扭动着身姿,伴随背景音乐跳着热辣劲舞。

直播间内标示有“数字主播一切听你的”字样,同时还有“小礼物控制主播”“发以下弹幕调戏主播”的文字提示,所以这位女主播实际上是一个AI虚拟数字人。

据直播间的弹幕互动游戏玩法介绍,用户通过发送“111”“888”“老婆”,即可“调戏主播”,分别对应“主播喊爸爸”“恶龙咆哮”“主播撒娇”。此事被曝出后,该账号已经删去了相关直播内容,并且疑似注销了账号。

我们也曾就此事咨询过北京鼎世律师事务所合伙人律师李苏阳,他表示:从报道内容看,该直播的内容及形式,无疑属于“擦边”“低俗”,涉嫌“软色情”,可能被认定为“带有性暗示、性挑逗等易使人产生性联想”以及“宣扬低俗、庸俗、媚俗内容”的不良信息,或违反了《网络直播营销管理办法(试行)》《网络信息内容生态治理规定》等法规的禁止性规定,可能被作为中央网信办2024年“清朗·网络直播领域虚假和低俗乱象整治”专项行动的重点打击对象。

显然,利用AI主播擦边赚钱并不是一个好主意。那像上述一样只发图片呢?大概率很难赚到钱,毕竟缺乏账号管理,难以变现。而网上还有许多教大家用AI美女赚钱的,想想也知道这是为了让你交课时费。

这种AI换脸的生意稍微想想就可能存在各种法律风险,科技旋涡提醒大家,切勿盲目操作,小心因小失大。而提到AI换脸,就不得不说知名歌星泰勒了,几乎每次AI换脸都让她遇上了。

AI泰勒支持川普,多次换脸受害者

在美国总统候选人卡马拉·哈里斯与唐纳德·特朗普的辩论之后,泰勒·斯威夫特在在Instagram中发布了一条立场鲜明的支持宣言。最近有不实消息称“她支持特朗普”,为此她在此做出澄清。泰勒·斯威夫特还表示,她将在2024年总统大选中投票给哈里斯,因为她“为权利而战”。

在帖子中,她表示发现有人利用AI虚假地宣称我支持唐纳德·特朗普竞选总统,并将此信息发布在了他的网站上。这让我对AI和传播错误信息的危险产生了恐惧。这也让我得出结论,作为选民,我需要非常透明地公开我对这次选举的实际计划。打击虚假信息的最简单方法就是说出真相。

最后,她还表示,会在社交媒体中附上登记地点、提前投票日期和相关信息。显然,这次AI换脸把泰勒惹急了,此前她对于有关AI换脸黄色照片的事情反应都没有此次激烈。

2024年初,泰勒的一些露骨不雅照片在互联网上疯传,其中一张图片已经被浏览了整整四千五百万次!随后,这些图像被验证是人工智能“深度伪造”技术生成的,用来恶意诋毁泰勒的公众形象。

科技旋涡认为,虽然利用AI技术制作虚假信息早已有之,但随着生成式AI在过去一年多时间内的快速发展,对视频、图片、音频进行深度造假技术更加成熟且普遍,造假的成本也更加低廉。

传播学者罗伯特·切斯尼形象地称之为,“说谎者的红利”,前所未有的AI深度伪造焦虑让那个曾经遥远的问题,骤然变得现实而紧迫。

写在最后

人工智能技术是一把双刃剑。在给人类生活带来便利的同时,它也带来了诸多伦理困境。自AI飞速发展以来种种诈骗、违法案件提醒着我们直面人工智能带来的种种挑战。

不论是虚拟数字主播擦边还是AI美女以假乱真,其背后都是一群追求利益的人在操纵。AI 大模型是人类的镜像,人们投喂给它什么,它就会像一潭有魔力的湖水,反射出人们自己的潜意识与欲望。

在发展人工智能的同时,我们有必要为之设置“防火墙”,唯有如此,我们才能真正驾驭这一划时代的技术,让它更好地造福和帮助人类。

责任编辑:李欣桐

头条阅读

最热资讯

精彩推荐

共工新闻网版权说明:凡注明来源为“共工新闻:XXX(署名)”,除与共工新闻签署内容授权协议的网站外,其他任何网站或单位未经允许禁止转载、使用,违者必究。如需使用,请与共工新闻联系;凡本网注明“来源:XXX(非共工新闻)”的作品,均转载自其它媒体,目的在于传播更多信息,其他媒体如需转载,请与稿件来源方联系,如产生任何问题与本网无关。

版权保护:本网登载的内容(包括文字、图片、多媒体资讯等)版权属共工新闻(共工新闻社有限公司)独家所有使用。 未经共工新闻事先协议授权,禁止转载使用。给共工新闻提意见:Vgong@vip.qq.com


海报分享