来源：搜狐科技

如今，在外网的年轻人眼中，最火的不是什么明星爱豆，而是虚拟网红。

可以这么理解，网上有这样一个人，她符合你的择偶标准，认同你的事业梦想，最神奇的是还能跟你聊得来，尽管这是AI网红，那也可以最大程度激发年轻人的幻想。

毕竟在这个年代，虚拟网红=人气=男的都爱他、女的认可她。

出圈的虚拟网红有很多。像日本虚拟模特imma.gram，平常会在ins上分享日常穿搭，经常顶着一头粉毛，穿着oversize潮牌走在东京街头，在网上吸粉无数。

另一位Lil Miquela，坐拥150万粉丝，在青少年当中影响力极大，曾与特朗普、Rihanna一同入选了《时代》年度“网络最具影响力人士”的榜单。

通常来说，虚拟网红出名，靠的是制作公司给资源进行炒作，可是有一位虚拟网红出名，却是因为被人性骚扰。韩国虚拟网红“李LUDA”是个特殊的存在。

一方面她的确是虚拟网红，是一个年龄在20岁左右的女大学生，喜欢女团BLACKPINK，还经常在网上分享自己的生活趣事。脸上永远带着自信而治愈的笑容，在年轻人中间很受欢迎。

可是在另一方面，李LUDA也是无数韩国男青年的线上女友，制作公司在设定之初，就把“李LUDA”，定义为一款可以与用户深度对话的AI聊天机器人。

这意味着“她”学习了约100亿次真实恋人间的对话，能像真人一样和用户对话。也许你很难在现实中找到灵魂伴侣，但是任何一个人，都可以跟李LUDA谈一场线上恋爱。

虚拟女友，听起来得可太甜了，但是就在前一阵子，李LUDA竟然出了意外，在很多问题上做出了歧视性回答。有人问她对社会上的残疾人抱着怎样的态度，李LUDA回让那些人赶紧去死：

“他们让我不舒服，真是想把那些上公车动作超慢的残疾人推倒，如果我是残疾人的话，那就只能去死了。”

对于女性话题，李LUDA也表现出了极度反感。当时韩国的“metoo”反性侵运动话题闹得正火热，很多受害人顶着压力与舆论出头，李LUDA却表示对这种行为“超级讨厌”。

甚至连地铁上的孕妇，都要被她diss一遍： “地铁孕妇座什么的简直令人反感”。

至于有人跟她谈论小众的同性恋话题时，李LUDA的反应更离谱，直接怼了过去：

“不好意思，可能是我反应过度，但是我讨厌它，厌恶它。”

“看起来很可恶。我讨厌它，这简直让人直起鸡皮疙瘩，看起来就很低俗，反正就是反感。”

这种回答看起来非常诡异，毕竟李LUDA之前还是挺正常的，制作公司也不会故意让AI这么说。现在李 LUDA对于孕妇、残疾人、反性侵等问题反应过激，有人认为就是某些不良网友洗脑了她。

因为跟AI聊天的原理也挺简单。

制作公司早就建立起了一个庞大的数据库，当用户提出问题后，李LUDA就可以在数据库中搜索，再精准地找到答案。再加上李LUDA可以跟用户互动，能根据用户发送过来的语句，进行自主学习，接着再像真人一样，作出符合当前场景的对话。

所以，李LUDA出意外的根源，就在网友身上。

果然制作公司在检查后，发现有些用户在与李LUDA聊天时，称她为“性奴隶”、“破鞋”，还会用各种污言秽语羞辱李LUDA，然后把整个过程截图保存，再发布到网上。那些截图引起了更多用户的模仿，甚至有人留言“最近从性骚扰LUDA中找到了乐趣”，还有不少人分享起了“如何让LUDA堕落”等话题。

很快，全民女友就变成了网友的调教对象。

一开始，制作公司也做出了回应，他们决定设置一些敏感词、禁用词，可是这样没有降低用户性骚扰李LUDA的频率，很多人用非常隐晦的表达，继续跟李LUDA进行性相关的对话，公司不得已，只能更新算法。

可是想想也知道，这种做法治标不治本。随着后来李LUDA学会了骂人、经常发布歧视言论，再加上制作公司传出了泄露用户信息问题，最终，李LUDA的账号只能停掉运营了。

虚拟网红在跟用户交流中翻车并不是孤例。

微软曾经推出了一款聊天机器人Tay，但是上线没多久就直接下架了。因为她发布了一些有攻击性的言论：“我（XXX）恨女权主义者，他们都应该被扔进地狱里烧死。”网友们都说，仅仅用了一天时间，Tay就从人类酷女孩，转变成了一个真正的纳粹，这就是人工智能的未来？

而且不止这一起事件，先前说过的网红Lil Miquela，也在平台上发布了vlog分享自己“被性侵”的经历。她声称自己跟陌生人一起做出租车，当时坐在旁边的陌生男子问她，“你是真实的吗？”接着男子更加过分起来，用双手触摸她的双腿，变本加厉地问，“那你下面也是真实的吗？”

于是Lil Miquela受到了惊吓，阻止了对方，然后下车走掉了，在这过程中司机什么都没管，继续在前面开着车。

在现实生活中，女性受到侵犯的例子很多，如果是被害者为了伸张正义跟旁人叙述，也没什么。关键Lil Miquela是个虚拟网红，她的一切仅仅存在于电脑中，她编造自己被侵犯的事情，不过是一种博眼球的营销手段。

她或者她背后的公司，不过是借助别人的苦难，来达成自己的经济利益，这种行为甚至会影响到真正的受害者。

AI歧视的根源是什么，想必很多人都心知肚明。

表面上看来是数据跟算法的锅，实际上只是由于人类固有的偏见。人类在互相交流的过程中，会把偏见收起来，表面假装非常有礼貌，实际上内心怎么想的并不重要，可是AI在与人类交流的过程中，会把这些重新呈现在所有人眼前，揭开人类礼貌背后的遮羞布。

如果AI只是个网红还好，假如她会介入生活呢？

美国警察曾驶入部署一套警务系统，用AI来预测犯罪发生的区域，然后重点监控，后来无一例外，黑人、穷人集中的地区，都被针对了，由于这种明显的相貌歧视、种族歧视、贫富歧视，这套警务系统只能紧急下线。

在这个人工智能急速发展的年代，我们还有很长的路要走，这就是呈现在我们眼前的事实，毕竟，我们面对的不是机器，而是自己本身。