如何甄别虚假和低俗内容?采用人工智能是个好措施

发布时间：2021-10-24 14:26:52 所属栏目：交互来源：互联网

导读：现在，甄别和控制网络虚假信息传播已经成为一个世界性话题。虚假信息不仅令我国网络空间深受其扰，一些西方国家也日益意识到它的危害。随着人工智能的不断发展，如何通过人工智能能够更有效地甄别虚假和低俗内容并控制其传播，是当前业界和学界要重点研究的

现在，甄别和控制网络虚假信息传播已经成为一个世界性话题。虚假信息不仅令我国网络空间深受其扰，一些西方国家也日益意识到它的危害。随着人工智能的不断发展，如何通过人工智能能够更有效地甄别虚假和低俗内容并控制其传播，是当前业界和学界要重点研究的问题。

　　数字化信息时代，人人都是通讯员，个个都是记者，网民可以通过贴文、微博等形式提供在网络上自由发布信息。而网络的匿名性又使得发布网络虚假信息承担责任的风险降低，这些都促使了网络虚假信息肆虐。

　　虚假信息及低俗内容，在互联网环境中跨地域大规模快速传播的现象，主要出现在拥有海量用户的互联网应用平台产生以后。每个用户都可以在这个平台上发布信息，并在平台内部和平台之间快速传播信息。在一定的利益动机和社会心理机制作用下，一些平台用户试图发布虚假信息及低俗内容谋取各种利益。由于这类信息和内容往往流传甚快甚广，使得社会原有的甄别及防范机制难以及时做出反应。

　　传播虚假信息主要有三大危害：一是破坏市场诚信环境；二是虚假信息经过发酵传播会破坏市场正常运行机制；三是在市场特殊环境下，一则虚假信息可能在舆论环境中产生蝴蝶效应，渲染恐慌情绪。

　　人工智能在计算机领域内，得到了愈加广泛的重视。并在机器人，经济政治决策，控制系统，仿真系统中得到应用。那么，针对网络虚假信息传播，究竟如何更好地掌握规律、制定规则，给算法提供正确指引，让人工智能能够更有效地甄别虚假信息并控制其传播呢?

　　首先，我们需要更全面地梳理和分析产生虚假和低俗内容的利益结构和动机，分析各类利益主体制造和传播虚假及低俗内容的行为特点，如谋求政治利益和谋求经济利益的行为主体，在制造和传播虚假及低俗内容的行为方面有哪些异同。通过这些分析，为建立模型提供依据。

　　其次，可以通过对网络平台上虚假及低俗内容传播者生产的内容进行文本分析，对其传播行为进行跟踪研究，以掌握其心理特征及行为特征，支持识别模型的构建。

　　此外，还可以通过对人们网络信息接收和接受的心理特征及行为的分析，建立模型，探索如何通过算法干预这一过程，阻断虚假及低俗内容的传播，减低其传播效果。

（编辑：云计算网_泰州站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!