CN106941440B - 一种会话反骚扰方法及装置 - Google Patents

Abstract

本发明公开了一种会话反骚扰方法及装置。该会话反骚扰方法包括：从会话消息中提取当前会话的发送方信息；获取当前会话过程中，发送方发送消息和接收消息的比例；当发送消息和接收消息比例大于预设比例阈值时，限制发送方发送消息的能力。通过本发明的会话反骚扰方法，可以实现即时通信过程中垃圾信息的检测，避免因热词反骚扰造成会话的误杀，保证了用户的通信体验，优化了网络环境。

Description

一种会话反骚扰方法及装置

技术领域

本发明涉及通信技术领域，尤其涉及一种会话反骚扰方法及装置。

背景技术

网络即时通信服务(IM，Instant Messenger)是一种基于互联网的通信服务，一般以实现网络上即时通信功能为主。由于即时通信工具的方便灵活，被广泛使用，成为用户一个常用的联系工具。目前的即时通信工具有采用客户端和服务器结构的，例如腾讯公司的QQ、微软的MSN，也有采用浏览器以及web服务器结构的，例如商品交易平台、社交平台等。

目前，经常上网的大部分用户在通过即时通信工具进行通信之前，需要在该工具的服务器上注册属于自己即时通信ID。通过该即时通信ID实现与他人的信息交互。然而有些网站(例如租房、二手商品发布平台)，这些网站通常不要求用户进行注册，用户无需登录直接向任意商家或者信息发布人发送消息即可；同时商家或者信息发布人还可以向访问其商品或者物品发布信息的用户主动推送消息。

然而上述方法，从商家或者信息发布人的角度考虑，便于他们及时获知信息发布后了解用户的情况。但是从用户的角度考虑，会在未经允许的情况下自动接收商家发送的信息。当商家的数量不断增多时，用户被动接收消息也随之增多，给用户带来极大的困扰。与此同时，商家往往向用户推送没有任何价值的信息，甚至是骚扰、违法或者病毒信息。对于用户来说，体验感是非常差的。

而目前现有技术中，对即时通信中的反骚扰的方法，通常采用热词反骚扰，即需要统计该用户的信息输入历史，根据其中出现的词的内容进行统计分析，如果某一个用户消息记录中，相关骚扰词汇出现的次数大于设定阈值，则可以认定该用户的身份为骚扰身份，对其信息内容进行删除屏蔽等处理。而采用热词反骚扰方法，若通信双方在正常交互过程中提及的某个热词次数比较多，则可能也会将该用户误判为骚扰，致使会话被误杀。

发明内容

本发明所要解决的技术问题在于提供一种会话反骚扰方法及装置，用以解决现有技术中采用热词反骚扰方法可能致使会话被误杀的问题。

依据本发明的一方面，提供一种会话反骚扰方法，包括：

从会话消息中提取当前会话的发送方信息；

获取所述当前会话过程中，所述发送方发送消息和接收消息的比例；

当所述发送消息和接收消息比例大于预设比例阈值时，限制所述发送方发送消息的能力。

进一步地，所述当前会话为一个发送方与一个接收方的会话、或者一个发送方与多个接收方的多个会话、或者一个发送方对多个接收方的群组会话。

进一步地，所述限制所述发送方发送消息的能力，包括：

限制所述发送方向所述当前会话的一个接收方发送消息的时间、次数或者频率；

或者限制所述发送方向所述当前会话的多个接收方中的一个或者多个发送消息的时间、次数或者频率；

或者限制所述发送方向任意一个接收方发送消息的时间、次数或者频率。

进一步地，所述方法还包括：

实时或者定期更新所述发送方发送消息和接收消息的比例；

当发送消息和接收消息的比例小于或者等于预设比例阈值时，则解除或者放宽对所述发送方发送消息能力的限制。

进一步地，当检测所述发送方连续两次在所述当前会话中发送会话消息后，获取所述当前会话过程中，所述发送方发送消息和接收消息的比例。

进一步地，所述方法还包括：

当检测所述会话消息与上一条会话消息的发送方不同时，将所述当前会话的互动次数加1；

当所述互动次数大于设定的次数阈值时，对所述当前会话进行策略放松处理。

进一步地，所述方法还包括：

获取所述发送方发送信息中出现频率大于预设频率阈值的词语；

当所述词语在预设的垃圾词名单中时，限制所述发送方发送消息的能力。

依据本发明的一方面，提供一种会话反骚扰装置，包括：

提取单元，用于从会话消息中提取当前会话的发送方信息；

第一获取单元，用于获取所述当前会话过程中，所述发送方发送消息和接收消息的比例；

处理单元，用于当所述发送消息和接收消息比例大于预设比例阈值时，限制所述发送方发送消息的能力。

进一步地，所述第一获取单元处理的当前会话为一个发送方与一个接收方的会话、或者一个发送方与多个接收方的多个会话、或者一个发送方对多个接收方的群组会话。

进一步地，所述处理单元具体用于：

限制所述发送方向所述当前会话的一个接收方发送消息的时间、次数或者频率；

或者限制所述发送方向所述当前会话的多个接收方中的一个或者多个发送消息的时间、次数或者频率；

或者限制所述发送方向任意一个接收方发送消息的时间、次数或者频率。

进一步地，所述装置还包括：

更新单元，用于实时或者定期更新所述发送方发送消息和接收消息的比例；

所述处理单元，还用于当发送消息和接收消息的比例小于或者等于预设比例阈值时，则解除或者放宽对所述发送方发送消息能力的限制。

进一步地，所述第一获取单元具体用于，当检测所述发送方连续两次在所述当前会话中发送会话消息后，获取所述当前会话过程中，所述发送方发送消息和接收消息的比例。

进一步地，所述装置还包括：

计数单元，用于当检测所述会话消息与上一条会话消息的发送方不同时，将所述当前会话的互动次数加1；

所述处理单元，还用于当所述互动次数大于设定的次数阈值时，对所述当前会话进行策略放松处理。

进一步地，所述装置还包括：

第二获取单元，用于获取所述发送方发送信息中出现频率大于预设频率阈值的词语；

所述处理单元，还用于当所述词语在预设的垃圾词名单中时，限制所述发送方发送消息的能力。

本发明具有以下技术效果：

本发明所提供的会话反骚扰方法及装置，根据发送方收发比例判断发送方是否有骚扰嫌疑；根据发送方与接收方的互动次数，对目前执行的反骚扰方法进行策略放松；根据发送方的发送信息内容进一步检测发送方是否有骚扰行为。通过本发明会话反骚扰方法，可以有效避免因热词反骚扰方法造成会话的误杀，保证了用户的通信体验，优化了网络环境。

上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例1中会话反骚扰方法的流程图；

图2为本发明实施例4中会话反骚扰方法的流程图；

图3为本发明实施例6中会话反骚扰装置的结构示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

实施例1

本发明实施例所提供的一种会话反骚扰方法，如图1所示，具体包括如下步骤：

步骤101，从会话消息中提取当前会话的发送方信息；

步骤102，获取当前会话过程中，发送方发送消息和接收消息的比例；

步骤103，当发送消息和接收消息比例大于预设比例阈值时，限制发送方发送消息的能力。

本发明所提供的会话反骚扰方法，从会话消息的发送方进行考虑，根据当前会话中发送方发送消息和接收消息的比例判定发送方是否有骚扰行为；一旦确定发送方存在骚扰行为时，则限制发送方向接收方发送消息的能力。通过本发明会话反骚扰方法，可以有效避免因热词反骚扰方法对会话进行误杀，保证用户通信体验的同时，优化了网络环境。

实施例2

本发明实施例中，根据发送方的收发信息实现骚扰行为的检测，不局限于会话的形式，可以是一个发送方对一个接收方法的单独会话形式，或者一个发送方与多个接收方的多个会话、或者一个发送方对多个接收方的群组会话。

本实施例中，在限制发送方发送消息的能力时，包括限制发送方发送消息的时间、次数或者频率。针对不同的会话形式，限制发送方发送消息的能力的方式也不同。例如，一个发送方对一个接收方法的单独会话时，直接限制发送方向接收方发送消息的时间、次数或者频率即可。一个发送方对多个接收方的群组会话，则限制发送方向任意一个接收方发送消息的时间、次数或者频率。

而针对一个发送方与多个接收方的多个会话，则可以限制发送方向当前会话的多个接收方中的一个或者多个发送消息的时间、次数或者频率，或者限制发送方向任意一个接收方发送消息的时间、次数或者频率。具体地，在限制发送方向当前会话的多个接收方中的一个或者多个发送消息的能力时，需要根据发送方和接收方发送的消息确定受骚扰的接收方，限制发送方向受骚扰者继续发送信息，继续允许发送方向其他接收方发送消息。

实施例3

基于实施例1，本实施例的会话反骚扰方法对发送方的发收消息比例小于或者等于预设比例阈值的情况做了进一步地限定。实时或者定期更新发送方发送消息和接收消息的比例；当发送消息和接收消息的比例小于或者等于设定的比例阈值时，则解除或者放宽对发送方发送消息能力的限制。

本发明实施例中，实时或者定期更新消息的比例信息。对于发送消息和接收消息的比例的确定，可以预先设置两个计数器，分别用于记录发送方发送消息和接收消息的数量。当接收到发送方发送消息时，将发送消息的数量加1，当接收到会话中接收方发送消息时，将接收消息的数量加1。

本发明实施例中，通过实时或者定期更新消息的比例信息，使得发送方在被限制一定时间后，重新根据发送消息和接收消息的比例，确定是否可以解除或者放宽对发送方发送消息能力的限制，继续进行会话处理。

实施例4

本实施例所提供的会话反骚扰方法，需根据会话消息对会话状态做进一步的判定：当会话异常时，根据收发消息比例判断发送方是否有骚扰行为；当会话正常时，对会话的健康度进行判断。

具体参见图2，当接收到发送方发送的会话消息后，判断本次会话上一条消息是否为该发送方所发：

当上一条消息为发送方所发时，将发送方发送消息的计数器加1。获取该会话中发送方发送消息和接收消息的比例，并判断发送消息和接收消息的比例与预设比例阈值的大小。

本实施例中，当两条会话消息的发送方相同时，则说明发送方在接收方没有回复的情况下向接收方发送会话信息，表示会话异常，可能涉嫌骚扰行为。再根据设置的收发消息比例阈值进一步确认发送方是否有骚扰行为。本实施例通过检测发送方连续两次在当前会话中发送会话消息后，再进行骚扰行为的判定，可以减少系统对健康会话进行反骚扰检测所付出的不必要的开销。

当上一条消息为接收方所发时，则将发送方接收消息的计数器加1，同时允许会话继续。而当两次会话消息的发送方不同时，即接收方有回复信息，则说明会话处于健康交互状态，则允许继续当前的会话。当会话处于健康交互状态时，本实施例中进一步对会话的健康程度的判断。当会话的健康度较高时，则对当前的会话进行策略放松，具体包括如下：

当检测到当前会话消息与上一条会话消息的发送方不同时，将当前会话的互动次数的计数器加1；

当互动次数大于设定的次数阈值时，则对当前会话进行策略放松。

本发明的实施例中，发送方和接收方的互动次数不仅可以作为会话健康程度的评价，同时还可以用于线下统计依据，为该发送方在线上增加积分，提高该用户的信用度。当会话的健康程度较高时，对当前会话进行策略放松处理。

具体地，策略放松是指对当前的反骚扰方法进行放松处理，例如对当前会话停止反骚扰监测，或者提高反骚扰方法中的比例阈值，或者允许反骚扰处理后的发送方发送消息等。需要说明的是策略放松有时间限制。当策略放松时间超过预先设定的时间阈值时，对当前会话重新进行反骚扰检测。本发明实施例通过对健康程度较高的会话进行策略放松处理，可以有效减小因反骚扰方法所造成系统的开销。

实施例5

本实施例所提供的会话反骚扰方法，在根据消息收发比进行反骚扰的基础上，进一步根据发送方的会话内容进行反骚扰检测，具体包括如下：

获取发送方发送信息中出现频率大于预设频率阈值的词语；

当词语在预设的垃圾词名单中时，限制发送方发送消息的能力。

本实施例中，在会话时，记录发送方会话的内容，并通过切词等方法，从会话内容中获取会话中所包含的词。根据词出现的频率，判断该频率是否大于设定的频率阈值。其中词出现的频率为在指定时间段内的使用频率或者全局的出现频率。当该词的频率大于频率阈值时，则将该词判断为热词，并判断该词是否在预设的垃圾词名单中，若在，则将热词判断为垃圾词，限制发送方发送消息的能力。

实施例6

参见图3，本发明实施例还提供了一种会话反骚扰装置，包括：

提取单元，用于从会话消息中提取当前会话的发送方信息；

第一获取单元，用于获取当前会话过程中，发送方发送消息和接收消息的比例；

处理单元，用于当发送消息和接收消息比例大于预设比例阈值时，限制发送方发送消息的能力。

进一步地，第一获取单元处理的当前会话为一个发送方与一个接收方的会话、或者一个发送方与多个接收方的多个会话。

进一步地，处理单元具体用于，限制发送方向当前会话的一个接收方发送消息的时间、次数或者频率；或者限制发送方向当前会话的多个接收方中的一个或者多个发送消息的时间、次数或者频率；或者限制发送方向任意一个接收方发送消息的时间、次数或者频率。

进一步地，该会话反骚扰装置还包括：

更新单元，用于实时或者定期更新发送方发送消息和接收消息的比例；

处理单元，还用于当发送消息和接收消息的比例小于或者等于预设比例阈值时，则解除或者放宽对发送方发送消息能力的限制。

进一步地，第一获取单元具体用于，当检测发送方连续两次在当前会话中发送会话消息后，获取当前会话过程中，发送方发送消息和接收消息的比例。

进一步地，该会话反骚扰装置包括：

计数单元，用于当检测会话消息与上一条会话消息的发送方不同时，将当前会话的互动次数加1；

处理单元，还用于当互动次数大于设定的次数阈值时，对当前会话进行策略放松处理。

进一步地，该会话反骚扰装置还包括：

第二获取单元，用于获取发送方发送信息中出现频率大于预设频率阈值的词语；

处理单元，还用于当词语在预设的垃圾词名单中时，限制发送方发送消息的能力。

综上所述，本发明所提供的会话反骚扰方法及装置，根据发送方收发比例判断发送方是否有骚扰嫌疑，可以避免因根据热词判断可能造成的会话被误杀；根据会话的健康程度对目前执行的反骚扰方法进行策略放松，可以有效减少正常会话过程中，反骚扰方法带来的系统开销；再根据发送方的发送信息的具体内容，检测发送方是否有骚扰行为，进一步优化了会话反骚扰检测。因此通过本发明有效避免因热词反骚扰方法造成会话的误杀，保证了用户的通信体验，优化了网络环境。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，程序可存储于计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。

虽然通过实施例描述了本申请，本领域的技术人员知道，本申请有许多变形和变化而不脱离本发明的精神和范围。这样，倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。

Claims (12)

1.一种会话反骚扰方法，其特征在于，包括：

从会话消息中提取当前会话的发送方信息；

获取所述当前会话过程中，所述发送方发送消息和接收消息的比例；

当所述发送消息和接收消息比例大于预设比例阈值时，限制所述发送方发送消息的能力；

当检测所述发送方连续两次在所述当前会话中发送会话消息后，获取所述当前会话过程中，所述发送方发送消息和接收消息的比例。

2.如权利要求1所述的方法，其特征在于，所述当前会话为一个发送方与一个接收方的会话、或者一个发送方与多个接收方的多个会话、或者一个发送方对多个接收方的群组会话。

3.如权利要求2所述的方法，其特征在于，所述限制所述发送方发送消息的能力，包括：

限制所述发送方向所述当前会话的一个接收方发送消息的时间、次数或者频率；

或者限制所述发送方向所述当前会话的多个接收方中的一个或者多个发送消息的时间、次数或者频率；

或者限制所述发送方向任意一个接收方发送消息的时间、次数或者频率。

4.如权利要求1所述的方法，其特征在于，所述方法还包括：

实时或者定期更新所述发送方发送消息和接收消息的比例；

当发送消息和接收消息的比例小于或者等于预设比例阈值时，则解除或者放宽对所述发送方发送消息能力的限制。

5.如权利要求1所述的方法，其特征在于，所述方法还包括：

当检测所述会话消息与上一条会话消息的发送方不同时，将所述当前会话的互动次数加1；

当所述互动次数大于设定的次数阈值时，对所述当前会话进行策略放松处理。

6.如权利要求1所述的方法，其特征在于，所述方法还包括：

获取所述发送方发送信息中出现频率大于预设频率阈值的词语；

当所述词语在预设的垃圾词名单中时，限制所述发送方发送消息的能力。

7.一种会话反骚扰装置，其特征在于，包括：

提取单元，用于从会话消息中提取当前会话的发送方信息；

第一获取单元，用于获取所述当前会话过程中，所述发送方发送消息和接收消息的比例；

处理单元，用于当所述发送消息和接收消息比例大于预设比例阈值时，限制所述发送方发送消息的能力；

所述第一获取单元具体用于，当检测所述发送方连续两次在所述当前会话中发送会话消息后，获取所述当前会话过程中，所述发送方发送消息和接收消息的比例。

8.如权利要求7所述的装置，其特征在于，所述第一获取单元处理的当前会话为一个发送方与一个接收方的会话、或者一个发送方与多个接收方的多个会话、或者一个发送方对多个接收方的群组会话。

9.如权利要求8所述的装置，其特征在于，所述处理单元具体用于：

限制所述发送方向所述当前会话的一个接收方发送消息的时间、次数或者频率；

或者限制所述发送方向所述当前会话的多个接收方中的一个或者多个发送消息的时间、次数或者频率；

或者限制所述发送方向任意一个接收方发送消息的时间、次数或者频率。

10.如权利要求7所述的装置，其特征在于，所述装置还包括：

更新单元，用于实时或者定期更新所述发送方发送消息和接收消息的比例；

所述处理单元，还用于当发送消息和接收消息的比例小于或者等于预设比例阈值时，则解除或者放宽对所述发送方发送消息能力的限制。

11.如权利要求7所述的装置，其特征在于，所述装置还包括：

计数单元，用于当检测所述会话消息与上一条会话消息的发送方不同时，将所述当前会话的互动次数加1；

所述处理单元，还用于当所述互动次数大于设定的次数阈值时，对所述当前会话进行策略放松处理。

12.如权利要求7所述的装置，其特征在于，所述装置还包括：

第二获取单元，用于获取所述发送方发送信息中出现频率大于预设频率阈值的词语；

所述处理单元，还用于当所述词语在预设的垃圾词名单中时，限制所述发送方发送消息的能力。

Images