机器人绿坝审计系统
https://github.com/Hoshinonyaruko/Sanae_lvba
https://github.com/Hoshinonyaruko/Sanae_Filter
两个开源项目,一出一入,
第一个项目实现公用机器人的自我危险感知,日志储存,
当机器人(qq频道、kook机器人等等)被拉入到高频率出现违禁词的环境中时
如果开发者没有能及时感知,比如机器人的群数太多时,会出现巨大的风险
所以Sanae_lvba就应运而生了,将机器人的文本输入流对接至本地运行的审计接口中
很快就能过滤出风险,然后开发者就能针对性的退群、停止服务
这样独立开发者可以避免莫名背锅,其他群违规,机器人在不知情情况下被设为管理收到牵连等情况
同时,自带2万个敏感词库,敏感词库可以高度自定义,随着时间增加,能够有效的保护自己的项目。
Sanae_Filter项目是为了防止祸从口出,再结合腾讯、百度等高级审核接口做好更细粒度审核的情况下,在机器人出口再进行一次过滤,可以有效防止审核疏漏,防止机器人“祸从口出”
相信只要投入足够的精力去审核,就能将意外风险事件扼杀在摇篮中。