Instagram将推反欺凌工具,利用AI提醒或限制不当言论

明星八卦 浏览(1913)
澳门银河真人

据了解,社交软件Instagram一再受到批评,因为没有采取措施打击网络欺凌。然而,该公司于7月8日回应称,将推出一种新的反欺凌工具,希望能够帮助遏制平台上的网络欺凌行为。

e1322159726d40bab5f1447a6b907974

两种打击社会欺凌的工具

系统通知:“我们呼吁人们对可能导致网络欺凌的评论持谨慎态度。”该工具最初是为使用英语的用户推出的,但计划最终在全球推广。

3b7aa9d3cf284eaf85744198c8e07458

该公司还在测试一种名为Restrict的新工具,该工具将阻止用户和其他人查看滥用评论。那些喜欢说出来的人不会收到他们的评论受到限制的通知,也不会知道你是否已经阅读了他们的私信以及你是否在Instagram上活跃。年轻人告诉Instagram,他们对阻止,取消或报告欺凌者持谨慎态度,因为他们害怕会使事情变得更糟,特别是当他们了解现实生活中的恶霸时。

根据皮尤研究中心2018年的一项研究,大约59%的美国青少年在网上受到欺凌或骚扰,大多数人认为社交媒体网站在解决这个问题上非常不公平。今年4月,英国政府发布了《网络危害白皮书》(在线危害白皮书),以加强对科技公司的管理和控制。《白皮书》建议成立一个独立的监管机构,指导技术公司应对各种滥用行为,包括网络欺凌。在Facebook最近的开发者大会上,Instagram首席执行官Adam Mosseri表示,Instagram作为公司的社交平台,将专注于解决欺凌问题。

3b7aa9d3cf284eaf85744198c8e07458

e1322159726d40bab5f1447a6b907974

Twitter使用AI来管理内容环境

今年6月,Instagram宣布它已开始在其平台上使用一种名为“深层文字”的语言来消?始筒涣夹畔ⅰJ率瞪希琁nstagram不仅非常重视解决网络欺凌和不恰当言论等问题。社交平台Twitter不断引入人工智能技术来管理被人们批评的内容环境。

据了解,在早些时候的推特上,“键盘手”传播了恶意评论和践踏人权的人身攻击。它也充满了由假新闻,机器人等传播的垃圾邮件。在这方面,首席执行官杰克多尔西认为“Twitter是一种沟通工具,不善于判断个人之间的内容纠纷。”因此,Twitter收到报告后的做法通常是一个标题。这种中立的态度显然加速了Twitter用户的衰落,特别是失去了最严重的语言暴力的名人和KOL,这直接导致了Twitter内容的萎缩。

05024990bb5c412d9de1fd2d876fa11a

Twitter显然认为它必须做出一些改变,然后启动一系列AI转型计划:

收购伦敦创业公司Fabula AI,使用机器学习分析大型数据集并找到关系和互动。这可以帮助Twitter的机器学习团队使用关系映射来更好地检测社交网络上的假新闻,垃圾邮件和其他问题,从而提高平台对话的健康性。

在2018年,Twitter发布了一个名为Exploring Online Hate的面板工具,它可以通过1000个Twitter账户的样本找到仇恨活动的规则和趋势,然后使用算法生成更大的数据集来实时掌握互联网上的仇恨言论。控制相关的热门话题和语音来源。目前,38%的Twitter有害内容会被算法自动过滤。

依靠AI技术增强互动体验,如引入交互式视频功能(会话视频),根据上一步操作记录大量情节,根据用户行为(选择是或否)推进到下一步。在直播中添加了一个名为Moments的页面,并将推文组织成连贯的“故事”。增加的交互性和新的内容风格重新吸引了广告商的青睐。在2018年的第二和第三季度,视频广告收入占Twitter广告收入的一半以上。

1809a6d7ef2d4f8ca67a8b278f7576f5

此外,如机器翻译,帮助各地区的跨文化交流等,Twitter在广告cvr和反垃圾邮件方面做了大量技术优化,用户参与也得到了增强。

e1322159726d40bab5f1447a6b907974

阿里知道要净化社交媒体环境

社交平台上的各种暴力欺凌,网络谣言和其他不恰当的语音信息都令网络环境变得疯狂,成为虚假信息和有害信息的温床。在今年的愚人节时,阿里曾提出谣言破碎机的人工智能技术。 Ali“AI smasher”的算法模型由阿里巴巴佛法机器智能实验室开发。特定场景的准确率达到了81%。该团队依托深度学习和神经网络技术,通过多维度,多角度的信息分析,设计了一套综合评判系统,包括发布信息,社交肖像,受访者位置,回复信息和传播路径。谚语识别和社交用户视角识别以及交叉分析可以在短短1秒内确定新闻的真实性。

早些时候,国内内容社区平台被告知,并且还通过了AI标准评论。自主开发的瓦片算法可以从情感取向,亲密关系和文本特征三个方面构建内容情感模型,用户亲密度模型和文本识别模型,通过训练迭代完善,最终实现7层网络。找出反对意见,促进构建和谐友好的社区言论环境。此外,已知将AI算法应用于内容生成,消费和连接的所有方面。在内容制作场景中,AI帮助生成问题并启动“问题路由”产品,实现从问题生成到问题匹配的智能和精确,提高传统问答的效率。在内容消费场景中,通过AI算法的精细流量分配可帮助用户快速准确地获取既有趣又有用的内容。

43df7248d5ec4caeaa1c58e372951eba

人工智能工具功能强大,效率高,应始终实现技术目标,造福他人,使AI成为阻止互联网上不良评论的杀手。人工智能和大数据技术可以快速实现信息的正面和负面识别,使信息积极和积极。大多数社交媒体平台已开始测试人工智能技术的使用,以净化社交媒体环境,同时减少社交媒体审计机构的工作量,扼杀虚假信息和暴力言论等,重建社会信任,促进网络和谐环境。

来自网络的图片