请选择 进入手机版 | 继续访问电脑版

搜索爱好者

 找回密码
 注册会员

QQ登录

只需一步,快速开始

查看: 1375|回复: 1

如何避免孩子搜索时接触色情、暴力等信息?这群人花1个月给出了答案

[复制链接]
发表于 2018-6-21 23:55:58 | 显示全部楼层 |阅读模式
百度   2018-06-21

“在面对网上海量的信息时,我们真的能让孩子放心安全地上网吗?”

这是每一个身为父母的人都会关心的问题,同时也是简单搜索团队成员们一直以来的疑问。

2017年7月,百度上线了“简单搜索”App,极简的界面以及无广告的搜索结果,是我们最初的夙愿。

除此之外,我们还想让简单搜索拥有更多特色功能,少儿搜索模式就是其中一个。

很多网友在搜索遇到少儿不宜的信息时,都有过担忧,希望互联网内容能“分级”。我们已经看到,简单搜索 App 为此开发了“少儿模式”,我们想在这里跟大家分享开发团队的故事。



为人父母的担心

早在今年年初,简单搜索团队的成员们就注意到,网络上有很多打着儿童名义但却不适宜儿童观看的内容,比如一些“儿童邪典片”。为此百度 App 研发部的李同学还曾建议,“百度应该对儿童内容做一个专门的过滤”。

实际上,在简单搜索乃至整个百度搜索的团队中,不少同学的家中已经有了自己的宝贝。在孩子的成长中,他们不仅担心孩子们离开自己的视线遇到危险,有时还不敢让孩子独自使用手机。

“即便搜索结果是正常的,但也很担心跳转页面会有不良信息。”每当团队成员们讨论到这一点时,大家都心有余悸。同时,这也成为了扎在他们心中的一根刺,似乎在问他们:真的能放心让孩子们上网吗?

搜索是工具,信息是内容,然而呈现什么样的信息靠的是算法。而算法的背后是人,算法的价值观就是人的价值观。在信息传递的过程中,能不能给予每个人真正想要的信息?当面对少儿用户,能不能拦截下少儿不宜的信息,还给孩子们一个清新纯净的网络空间?这不仅是搜索的价值观,更是已经做了18年搜索的百度,需要继续深耕的责任。

于是,简单搜索的团队成员们主动请缨接下了这个任务,他们坚定地说,“少儿搜索这个项目一定要跟!在简单搜索上如果做好了,以后也可以落到用户体量更大的场景上。”




项目沟通的过程十分顺利,所有人都支持这个想法落地,认可它的意义和价值。“我们觉得这件事情很酷。搜索做了十几年,从来没有做过定制化的专版。对于我们来说,一方面是责任感的驱动,另一方面也是我们对搜索的创新。”团队成员们兴奋地说道。



说起来容易做起来难

项目研发初期,团队成员们就遭遇了各种各样的难题。

首先,想要做好儿童搜索,就要对海量的信息进行识别。为了保证搜索结果的纯净,项目组采用的策略非常严格,通过词汇的意向数据、图片识别、URL 识别等方式,对展示的每一条结果进行“色情”、“血腥”、“暴力”等维度的评分,综合判断这是不是一个适合儿童去了解的信息。

搜索结果中的用词、图片、页面中的二次跳转链接等,都会经过这个过滤系统的筛查,确保展现的每一条内容对儿童的安全性。对于各类黄反、血腥暴力等少儿不宜的内容,宁杀错也绝不放过。

“网络上有很多擦边球的内容,技术需要去甄别哪些是有益的,哪些是要坚决剔除的,难度很高,项目组的同学不断在优化算法和策略。”团队成员说道,“如果这个做好了,希望在不久的未来,能够做到年龄分层的策略,更好地满足不同年龄的需求。”




左:普通搜索模式;右:少儿搜索模式

其次,声纹识别技术也是需要攻克的一大难关。

其实,在一个多月前,少儿搜索还不支持声纹识别来开启,只能通过手动切换搜索模式来实现。当时就有不少同学提出了疑问:我们此前不是做过儿童声纹识别了吗,为什么不能自动识别儿童声音来开启少儿版?



实际上,此前的儿童声纹识别只在部分少儿认知类 query 下存在,比如,儿童语音搜索“熊猫”,会出现熊猫的 AR 展示入口。在这种场景下,如果出现识别错误,后果只是看不了优质的儿童资源。

但如果要把这个声纹识别应用到全局,为少儿精准屏蔽不宜内容,一旦识别错误,后果更加严重。少儿搜索的声纹识别需要做到高识别、低容错。因此,在一开始才会采用家长控制的方式,打造独立的少儿版。

但在后来的一个月里,通过项目组对技术持续的打磨和优化,终于在儿童声纹识别准确率上有了一定的提升。



左:标准搜索模式 右:儿童搜索模式

但其实儿童声音也是千差万别的,以及比如林志玲的声音就被称为“娃娃音”,但显然她并不是孩子。“为了减少误判,在现阶段在声纹识别的基础上,还会给用户提供版本选项,在不打扰主需求的情况下,实现声纹识别开启。”技术人员说道。

简单搜索专门定制“少儿模式”,不仅可以直接识别声纹进入,也可以手动开启。只要打开“简单搜索 App”,点击右下角出现扩展菜单,找到“设置-切换 App 版本”,再点击少儿版,搜索结果就会过滤大部分少儿不宜的词汇和露骨内容。



孩子的意见是最好的反馈

对于技术团队来说,克服技术难关也还不是最难的。最难或者说最有压力的,其实源自于少儿或父母这类人群对于产品的敏感。

“这类人群对于产品的容错率很低,一旦出现 bad case,用户可能就会完全放弃、吐槽这个产品,甚至把产品打入冷宫并且告诫亲朋不要使用。”项目组同学说,“这意味着每个人肩膀上不仅有责任感,还扛着不小的压力。谁都不希望在任何方面出现疏漏,让用户丧失了对我们的信任。”

当然,压力的好处便是,敦促着他们更积极地做内容过滤和把控,对于少儿不宜的内容,他们绝对是宁杀错,不放过。

除此之外,项目组还会把注意力放在少儿内容的呈现上。对于成年人来说,小孩子想看什么内容,大人心里是不太有底的。“如何才能让搜索结果更贴近于用户儿童想要的结果?”他们常常探讨这个问题。

要想做好用户体验,就要无限地接近用户,倾听用户的声音。项目组的同学决定,要“从娃娃抓起”:调研小用户们的需求,收集他们的反馈!于是,家里有宝宝的同学,每天回家都让宝宝体验产品,观察他们的反馈,酌情做优化。

项目组成员阿祥5岁的儿子,就为这个项目贡献了不少反馈:我不喜欢看这个、这个我看不懂、为什么没有动画片……阿祥笑着说,“儿子现在提反馈都已经很熟练了,毕竟儿子当搜索产品用户的年限说不定比我们的司龄都长。”

而还未为人父母的小伙伴,则学习着设身处地地把自己当成孩子的父母,评估哪些是希望孩子看到,哪些不是。现在,项目组的同学都真切站在了孩子爸妈的立场上,提到少儿不宜的内容,态度坚决:“暴力杀人、长腿丝袜等等,绝对不行!”

在2018年1月“IF 2018极客公园创新大会”上,李彦宏在谈到女儿时曾说,“Brenda 今年10岁,已经变成了一个完全熟练的手机用户。但有时我也在想,智能时代会改变他们什么样的体验,我看的信息是成人看到的东西,不一定适合小孩子去看。因此我们的手机一旦发现阅读者是个小孩,应该把内容变过来,变成适合小孩看的东西。”

简单搜索的同学们本着为人父母的初衷,打造了少儿搜索模式,希望能够保护孩子,让他们的每一天都快乐纯真。

而百度也始终相信,技术可以更好地为人服务,它们满足的将不仅是搜索的需求,也是获取知识与成长的过程。

我们会继续努力,在这个复杂的世界里,学会更懂你!

最后,欢迎大家扫描下方的二维码下载简单搜索App:



扫描二维码下载简单搜索 App


 楼主| 发表于 2018-6-21 23:56:35 | 显示全部楼层


简单搜索(searchcraft)是一款于2017年7月由百度搜索开发并上线的一款搜索APP。
 
  简单搜索其以简洁清爽的视觉体验,高效简单的操作交互,以及依靠语音搜索、图像识别、语音直达、多轮对话、语音播报等多种新一代搜索功能吸引了大量用户。

  2018年5月26日,在中国国际大数据产业博览会上,百度创始人、董事长兼CEO李彦宏宣布,百度推出全新智能搜索APP——简单搜索,并承诺在搜索结果里面永远不放广告。李彦宏表示这款智能APP搜索是利用人工智能AI技术,通过声纹识别技术,识别搜索用户为成人或少儿,当识别用户为少儿时,APP将智能开启少儿模式,打造净网,为青少年提供一个友好的网络环境。

















简单搜索·永无广告,百度“简单搜索“功能、简单搜索APP下载
http://www.sowang.com/searchcraft/index.htm



您需要登录后才可以回帖 登录 | 注册会员

本版积分规则

Archiver|手机版|大川乒乓网|中文搜索引擎指南网(搜网) ( 鲁ICP备16006309号

GMT+8, 2018-9-20 07:30 , Processed in 0.132646 second(s), 28 queries .

Powered by Discuz! X3.2

© 2001-2013 Comsenz Inc.

快速回复 返回顶部 返回列表