±à¼ÍƼö: |
±¾ÎÄ×ÛÊöÁËÈýÖÖÕë¶ÔÈ˹¤ÖÇÄÜϵͳµÄ¹¥»÷¼¼Êõ¡ª¡ª¶Ô¿¹ÐÔÊäÈë¡¢Êý¾ÝÖж¾¹¥»÷¼°Ä£ÐÍÇÔÈ¡¼¼Êõ£¬ÔÚÿһÖÖ¹¥»÷µÄÌÖÂÛÖж¼¼ÓÈëÁ˾ßÌåÀý×Ó¼°·ÀÓù²ßÂÔ¡¢Ï£Íû¶ÔÄúÓÐËù°ïÖú
±¾ÎÄÀ´×ÔÓÚ»úÆ÷Ö®ÐÄPro£¬ÓÉ»ðÁú¹ûÈí¼þDelores±à¼¡¢ÍƼö¡£ |
|
¶Ô·ÖÀàÆ÷µÄ¸ß²ã´Î¹¥»÷¿ÉÒÔ·ÖΪÒÔÏÂÈýÖÖÀàÐÍ£º
¶Ô¿¹ÐÔÊäÈ룺ÕâÊÇרÃÅÉè¼ÆµÄÊäÈ룬ּÔÚÈ·±£±»Îó·ÖÀ࣬ÒÔ¶ã±Ü¼ì²â¡£¶Ô¿¹ÐÔÊäÈë°üº¬×¨ÃÅÓÃÀ´¶ã±Ü·À²¡¶¾³ÌÐòµÄ¶ñÒâÎĵµºÍÊÔͼÌÓ±ÜÀ¬»øÓʼþ¹ýÂËÆ÷µÄµç×ÓÓʼþ¡£
Êý¾ÝÖж¾¹¥»÷£ºÕâÉæ¼°µ½Ïò·ÖÀàÆ÷ÊäÈë¶Ô¿¹ÐÔѵÁ·Êý¾Ý¡£ÎÒÃǹ۲쵽µÄ×î³£¼ûµÄ¹¥»÷ÀàÐÍÊÇÄ£ÐÍƫб£¬¹¥»÷ÕßÒÔÕâÖÖ·½Ê½ÎÛȾѵÁ·Êý¾Ý£¬Ê¹µÃ·ÖÀàÆ÷ÔÚ¹éÀàºÃÊý¾ÝºÍ»µÊý¾ÝµÄʱºòÏò×Ô¼ºµÄÆ«ºÃÇãб¡£ÎÒÃÇÔÚʵ¼ùÖй۲쵽µÄµÚ¶þÖÖ¹¥»÷ÊÇ·´À¡ÎäÆ÷»¯£¨feedback weaponization£©£¬ËüÊÔͼÀÄÓ÷´À¡»úÖÆÀ´²Ù×Ýϵͳ½«ºÃµÄÄÚÈÝÎó·ÖÀàΪÀÄÓÃÀࣨÀýÈ磬¾ºÕùÕßµÄÄÚÈÝ»òÕß±¨¸´ÐÔ¹¥»÷µÄÒ»²¿·Ö£©¡£
Ä£ÐÍÇÔÈ¡¼¼Êõ£ºÓÃÀ´Í¨¹ýºÚºÐ̽²â¡¸ÇÔÈ¡¡¹£¨¼´¸´ÖÆ£©Ä£ÐÍ»ò»Ö¸´ÑµÁ·Êý¾ÝÉí·Ý¡£ÀýÈ磬Õâ¿ÉÒÔÓÃÀ´ÇÔÈ¡¹ÉÊÐÔ¤²âÄ£ÐͺÍÀ¬»øÓʼþ¹ýÂËÄ£ÐÍ£¬ÒÔ±ãʹÓÃËüÃÇ»òÕßÄܹ»Õë¶ÔÕâЩģÐͽøÐиüÓÐЧµÄÓÅ»¯¡£
ÕâƪÎÄÕÂÒÀ´Î̽ÌÖÁËÿһÀ๥»÷£¬ÌṩÁ˾ßÌåµÄÀý×Ó£¬²¢ÇÒÌÖÂÛÁË¿ÉÄܵĻº½â·½·¨¡£
ÕâƪÎÄÕÂÊǹØÓÚÈçºÎʹÓÃÈ˹¤ÖÇÄܹ¹½¨Â³°ôµÄ·´ÀÄÓñ£»¤ÏµÍ³ÏµÁÐÎÄÕÂÖеĵÚËÄƪ£¬Ò²ÊÇ×îºóһƪ¡£µÚһƪÎÄÕ½âÊÍÁËΪºÎ AI Êǹ¹½¨Â³°ôµÄ±£»¤ÏµÍ³µÄ¹Ø¼ü£¬ÕâÖÖ±£»¤ÓÃÀ´Âú×ãÓû§ÆÚÍûºÍÈÕÒæÌáÉýµÄ¸´ÔÓ¹¥»÷¡£ÔÚ½éÉÜÍê¹¹½¨ºÍÆô¶¯Ò»¸ö»ùÓÚ AI µÄ·ÀÓùϵͳµÄ×ÔÈ»¹ý³ÌÖ®ºó£¬µÚ¶þƪ²©Îĺ¸ÇÁËÓëѵÁ··ÖÀàÆ÷Ïà¹ØµÄÌôÕ½¡£µÚÈýƪÎÄÕÂ̽ÌÖÁËÔÚÉú²úÖÐʹÓ÷ÖÀàÆ÷À´×èÖ¹¹¥»÷µÄÖ÷ÒªÀ§ÄÑ¡£
ÕâһϵÁÐÎÄÕÂÊǸù¾ÝÎÒÔÚ RSA 2018 ÉϵÄÑݽ²Ð´³öÀ´µÄ¡£
ÉùÃ÷£ºÕâƪÎÄÕÂÖ¼ÔÚΪËùÓжÔÀûÓÃÈ˹¤ÖÇÄܽøÐз´ÀÄÓ÷ÀÓù¸ÐÐËȤµÄÈËÌṩһ¸ö¸ÅÊö£¬ËüÊÇÄÇЩÕýÔÚÌøÔ¾¹ÛÍûµÄÈ˵ÄDZÔÚÀ¶Í¼¡£Òò´Ë£¬ÕâƪÎÄÕ²àÖØÓÚÌṩһ¸öÇåÎúµÄ¸ß²ã´Î×ܽᣬÓÐÒâ²»ÉîÈë¼¼Êõϸ½Ú¡£Ò²¾ÍÊÇ˵£¬Èç¹ûÄãÊÇÒ»Ãûר¼Ò£¬ÎÒÏàÐÅÄã»á·¢ÏÖÄãÒÔǰûÓÐÌý˵¹ýµÄÏë·¨¡¢¼¼ÊõºÍ²Î¿¼×ÊÁÏ£¬Ï£ÍûÄã»áÊܵ½Æô·¢£¬²¢½øÒ»²½Ì½Ë÷ËüÃÇ¡£
¶Ô¿¹ÐÔÊäÈë
¶ÔÊÖ²»¶ÏÓÃеÄÊäÈë/ÓÐЧÔغÉÀ´Ì½²â·ÖÀàÆ÷£¬ÊÔͼÌÓ±Ü̽²â¡£ÕâÖÖÓÐЧÔغɱ»³ÆΪ¶Ô¿¹ÐÔÊäÈ룬ÒòΪËüÃDZ»Ã÷È·Éè¼Æ³ÉÈƹý·ÖÀàÆ÷¡£
ÕâÊÇÒ»¸ö¶Ô¿¹ÊäÈëµÄ¾ßÌåÀý×Ó£º¼¸ÄêÇ°£¬Ò»¸ö´ÏÃ÷µÄÀ¬»øÓʼþ·¢ËÍÕßÒâʶµ½£¬Èç¹ûͬһ¸ö multipart ¸½¼þÔÚÒ»·âµç×ÓÓʼþÖгöÏÖ¶à´Î£¬Gmail ½«Ö»ÏÔʾÉÏͼÆÁÄ»½ØͼÖпɼûµÄ×îºóÒ»¸ö¸½¼þ¡£Ëû½«Õâһ֪ʶÎäÆ÷»¯£¬Ôö¼ÓÁ˲»¿É¼ûµÄµÚÒ»¸ö multipart£¬ÆäÖаüº¬Ðí¶àÖøÃûµÄÓò£¬ÊÔͼÌӱܼì²â¡£´Ë¹¥»÷ÊdzÆΪ¹Ø¼ü×ÖÌî³äµÄ¹¥»÷Àà±ðµÄÒ»¸ö±äÌå¡£
Ò»°ãÀ´Ëµ£¬·ÖÀàÆ÷³ÙÔç»áÃæÁÙÁ½ÖÖ¶Ô¿¹ÐÔÊäÈ룺±äÒìÊäÈ룬ÕâÊÇΪ±Ü¿ª·ÖÀàÆ÷¶øרÃÅÉè¼ÆµÄÒÑÖª¹¥»÷µÄ±äÌ壻ÁãÈÕÊäÈ룬ÕâÊÇÔÚÓÐЧÔغÉ֮ǰ´Óδ¼û¹ýµÄ¡£ÈÃÎÒÃÇÒÀ´Î̽¾¿Ã¿Ò»ÖÖ¶Ô¿¹ÐÔÊäÈë¡£
±äÒìÊäÈë
ÔÚ¹ýÈ¥µÄ¼¸ÄêÀÎÒÃÇ¿´µ½µØÏ·þÎñ±¬Õ¨Ê½Ôö³¤£¬ÕâÖÖ·þÎñÖ¼ÔÚ°ïÖúÍøÂç·¸×ï·Ö×ÓÖÆÔì²»¿É̽²âµÄÓÐЧÔغɣ¬ÔÚÃØÃÜÊÀ½çÖÐ×îÓÐÃûµÄÊÇ FUD(ÍêÈ«²»¿É̽²âµÄ) ÓÐЧÔغɡ£ÕâЩ·þÎñ´ÓÔÊÐíÕë¶ÔËùÓзÀ²¡¶¾Èí¼þ²âÊÔÓÐЧ¸ºÔصIJâÊÔ·þÎñ£¬µ½Ö¼ÔÚÒÔʹ¶ñÒâÎĵµ²»¿É¼ì²âµÄ·½Ê½»ìÏý¶ñÒâÎĵµµÄ×Ô¶¯´ò°ü³ÌÐò¡£ÉÏÃæµÄ½ØͼչʾÁËÁ½¸öÕâÑùµÄ·þÎñ¡£
רÃÅ´ÓÊÂÓÐЧÔغÉÖÆÔìµÄµØÏ·þÎñµÄÖØгöÏÖ͹ÏÔÁËÕâÑùÒ»¸öÊÂʵ:
¹¥»÷ÕßÖ÷¶¯ÓÅ»¯¹¥»÷£¬ÒÔÈ·±£×îС»¯·ÖÀàÆ÷¼ì²âÂÊ¡£
Òò´Ë£¬±ØÐ뿪·¢¼ì²âϵͳ£¬Ê¹¹¥»÷ÕßÄÑÒÔ½øÐÐÓÐЧ¸ºÔØÓÅ»¯¡£ÏÂÃæÊÇÈý¸ö¹Ø¼üµÄÉè¼Æ²ßÂÔÀ´°ïÖúʵÏÖÕâÒ»µã¡£
1. ÏÞÖÆÐÅϢй¶
ÕâÀïµÄÄ¿±êÊÇÈ·±£¹¥»÷ÕßÔÚ̽²éÄãµÄϵͳʱ»ñµÃ¾¡¿ÉÄÜÉÙµÄÊÕ»ñ¡£±£³Ö·´À¡×îС»¯²¢¾¡¿ÉÄÜÑÓ³Ù·´À¡ÊǺÜÖØÒªµÄ£¬ÀýÈç±ÜÃâ·µ»ØÏêϸµÄ´íÎó´úÂë»òÖÃÐŶÈÖµ¡£
2. ÏÞÖÆ̽²â
´Ë²ßÂÔµÄÄ¿±êÊÇͨ¹ýÏÞÖƹ¥»÷ÕßÕë¶ÔÄãµÄϵͳ²âÊÔÓÐЧ¸ºÔصÄƵÂÊÀ´½µµÍ¹¥»÷ÕßµÄËٶȡ£Í¨¹ýÏÞÖƹ¥»÷Õ߶ÔÄãµÄϵͳִÐвâÊÔµÄƵÂÊ¿ÉÒÔÓÐЧ½µµÍËûÃÇÉè¼ÆÓк¦ÓÐЧ¸ºÔصÄËٶȡ£
ÕâÒ»²ßÂÔÖ÷ÒªÊÇͨ¹ý¶Ôϡȱ×ÊÔ´£¨Èç IP ºÍÕÊ»§£©ÊµÊ©ËÙÂÊÏÞÖÆÀ´ÊµÏֵġ£ÕâÖÖËÙÂÊÏÞÖƵĵäÐÍÀý×ÓÊÇÒªÇóÓû§½â¾öÑéÖ¤Â룬ÑéÖ¤ËûÊÇ·ñ·¢²¼µÄ̫Ƶ·±£¬ÈçÉÏËùʾ¡£
ÕâÖÖÖ÷¶¯ÏÞÖƻÂʵĸºÃæÓ°ÏìÊÇ£¬Ëü»á¹ÄÀø²»Á¼ÐÐΪÕß´´½¨¼ÙÕË»§£¬²¢Ê¹ÓÃÊÜËðµÄÓû§¼ÆËã»úÀ´·ÖÉ¢ËûÃÇµÄ IP ³Ø¡£ÒµÄڹ㷺ʹÓÃÏÞËÙÊǷdz£»îÔ¾µÄºÚÊÐÂÛ̳ÐËÆðµÄÒ»¸öÖ÷ÒªÇý¶¯ÒòËØ£¬ÔÚÕâЩÂÛ̳ÖУ¬ÕË»§ºÍ IP µØÖ·±»³£¹æ³öÊÛ£¬ÈçÉÏÃæµÄ½ØͼËùʾ¡£
3. ¼¯³Éѧϰ
×îºóµ«Í¬ÑùÖØÒªµÄÊÇ£¬½áºÏ¸÷ÖÖ¼ì²â»úÖÆ£¬Ê¹¹¥»÷Õ߸üÄÑÈƹýÕû¸öϵͳ¡£Ê¹Óü¯³Éѧϰ½«»ùÓÚÉùÓþµÄ¼ì²â·½·¨¡¢È˹¤ÖÇÄÜ·ÖÀàÆ÷¡¢¼ì²â¹æÔòºÍÒì³£¼ì²âµÈ²»Í¬ÀàÐ͵ļì²â·½·¨½áºÏÆðÀ´£¬Ìá¸ßÁËϵͳµÄ³°ôÐÔ£¬ÒòΪ²»Á¼ÐÐΪÕß²»µÃ²»Í¬Ê±ÖÆ×÷±ÜÃâËùÓÐÕâЩ»úÖƵÄÓÐЧÔغɡ£
ÀýÈ磬ÈçÉÏÃæµÄ½ØͼËùʾ£¬ÎªÁËÈ·±£ Gmail ·ÖÀàÆ÷¶ÔÀ¬»øÓʼþÖÆÔìÕߵij°ôÐÔ£¬ÎÒÃǽ«¶à¸ö·ÖÀàÆ÷ºÍ¸¨Öúϵͳ½áºÏÔÚÒ»Æð¡£ÕâÑùµÄϵͳ°üÀ¨ÉùÓþϵͳ¡¢´óÐÍÏßÐÔ·ÖÀàÆ÷¡¢Éî¶Èѧϰ·ÖÀàÆ÷ºÍÆäËûһЩÃØÃܼ¼Êõ¡£
Éî¶ÈÉñ¾ÍøÂç¶Ô¿¹¹¥»÷ʵÀý
ÈçºÎÖÆ×÷ÆÛÆÉî¶ÈÉñ¾ÍøÂ磨DNN£©µÄ¶Ô¿¹Àý×ÓÊÇÒ»¸ö·Ç³£»îÔ¾µÄÏà¹ØÑо¿ÁìÓò¡£ÏÖÔÚ£¬´´½¨ÄÑÒÔ²ì¾õµÄÈŶ¯£¬³¹µ×ƹý DNN ÊÇÒ»¼þСÊ£¬ÈçÉÏÃæ´ÓÂÛÎÄ¡¶Explaining and Harnessing Adversarial Examples¡·£¨https://arxiv.org/abs/1412.6572£©½ØÈ¡µÄͼƬËùʾ¡£
×î½üµÄÑо¿ (https://arxiv.org/abs/1711.11561) ±íÃ÷£¬CNN ÈÝÒ×Êܵ½¶Ô¿¹ÐÔÊäÈë¹¥»÷£¬ÒòΪËûÃÇÇãÏòÓÚѧϰ±íÃæµÄÊý¾Ý¼¯µÄ¹æÔòÐÔ£¬¶ø²»ÊǺܺõطº»¯ºÍѧϰ²»Ì«ÈÝÒ×Êܵ½ÔëÉùÓ°ÏìµÄ¸ß¼¶±íÕ÷¡£
ÕâÖÖ¹¥»÷»áÓ°ÏìËùÓÐ DNN£¬°üÀ¨»ùÓÚÔöǿѧϰµÄ DNN (https://arxiv.org/abs/1701.04143 )£¬ÈçÉÏÃæÊÓƵÖÐËùÇ¿µ÷µÄ¡£ÒªÁ˽â¸ü¶à¹ØÓÚ´ËÀ๥»÷µÄÐÅÏ¢£¬ÇëÔĶÁ Ian Goodfellow ¹ØÓÚ´ËÖ÷ÌâµÄ½éÉÜÎÄÕ£¬»òÕß¿ªÊ¼³¢ÊÔ Clever Hans µÄʵÑé (https://github.com/tensorflow/cleverhans£©¡£
´Ó·ÀÓùÕߵĽǶÈÀ´¿´£¬ÕâÖÖÀàÐ͵Ĺ¥»÷ÒѾ±»Ö¤Ã÷£¨µ½Ä¿Ç°ÎªÖ¹£©ÊǷdz£ÓÐÎÊÌâµÄ£¬ÒòΪÎÒÃÇ»¹Ã»ÓÐÓÐЧµÄ·½·¨À´·ÀÓùÕâÖÖ¹¥»÷¡£´Ó¸ù±¾ÉÏ˵£¬ÎÒÃÇûÓÐÒ»ÖÖÓÐЧµÄ·½·¨Èà DNN ΪËùÓÐÊäÈë²úÉúÁ¼ºÃµÄÊä³ö¡£ÈÃËûÃÇÕâÑù×öÊǷdz£À§Äѵģ¬ÒòΪ DNN Ôڷdz£´óµÄ¿Õ¼äÄÚÖ´ÐзÇÏßÐÔ/·Ç͹ÓÅ»¯£¬ÎÒÃÇ»¹Ã»ÓнÌËûÃÇѧϰ·º»¯Á¼ºÃµÄ¸ß¼¶±íÕ÷
ÁãÈÕÊäÈë
ÁíÒ»ÖÖ¿ÉÒÔÍêÈ«Å×Æú·ÖÀàÆ÷µÄÃ÷ÏԵĶԿ¹ÐÔÊäÈëÊÇÐµĹ¥»÷¡£ÐµĹ¥»÷²»³£·¢Éú£¬µ«ÖªµÀÈçºÎÓ¦¶ÔÈÔÈ»ºÜÖØÒª£¬ÒòΪËüÃÇ¿ÉÄܾßÓÐÏ൱´óµÄÆÆ»µÐÔ¡£
¾¡¹Ü³öÏÖй¥»÷ÓÐÐí¶à²»¿ÉÔ¤²âµÄDZÔÚÔÒò£¬µ«¸ù¾ÝÎÒÃǵľÑ飬ÒÔÏÂÁ½ÖÖʼþ¿ÉÄܻᴥ·¢Ð¹¥»÷µÄ³öÏÖ£º
вúÆ·»ò¹¦ÄÜÍƳö£º±¾ÖÊÉÏ£¬Ôö¼Ó¹¦ÄÜ»áΪ¹¥»÷Õß´ò¿ªÐ¹¥»÷Ã棬ÓÐÀûÓÚËüÃÇ¿ìËÙ½øÐÐ̽²é¡£Õâ¾ÍÊÇΪʲôвúÆ··¢²¼Ê±ÌṩÁãÈÕ·ÀÓùÊDZØÒªµÄ£¨µ«ºÜÄÑ£©¡£
Ôö¼Ó½±Àø £ºËäÈ»ºÜÉÙÌÖÂÛ£¬µ«Ðí¶àÐµĹ¥»÷¼¤ÔöÊÇÓɹ¥»÷ý½éÍƶ¯µÄ£¬±äµÃ·Ç³£ÓÐÀû¿Éͼ¡£ÕâÖÖÐÐΪ×î½üµÄÒ»¸öÀý×ÓÊÇ£¬Õë¶Ô 2017 Äêµ×±ÈÌرҼ۸ñìÉý£¬ÀÄÓà Google Cloud µÈÔÆ·þÎñÀ´ÍÚ¾ò¼ÓÃÜÊý×Ö»õ±ÒµÄÐÐΪÓÐËù̧ͷ¡£
Ëæ×űÈÌرҼ۸ñìÉýÖÁ 1 ÍòÃÀÔªÒÔÉÏ£¬ÎÒÃÇ¿´µ½ÐµĹ¥»÷·çÆðÔÆÓ¿£¬ÆóͼÇÔÈ¡ Google ÔƼÆËã×ÊÔ´ÓÃÓÚÍÚ¾ò¡£
×ÜÖ®£¬Nassim Taleb ÐÎʽ»¯µÄºÚÌì¶ìÀíÂÛ£¨Black swan theory£©ÊÊÓÃÓÚ»ùÓÚÈ˹¤ÖÇÄܵķÀÓù£¬¾ÍÏñËüÊÊÓÃÓÚÈκÎÀàÐ͵ķÀÓùÒ»Ñù¡£
²»¿ÉÔ¤²âµÄ¹¥»÷³ÙÔç»áÅ×ÆúÄãµÄ·ÖÀàÆ÷²¢½«²úÉúÖØ´óÓ°Ïì¡£
È»¶ø£¬²»ÊÇÒòΪÄãÎÞ·¨Ô¤²âÄÄЩ¹¥»÷»áÅ×ÆúÄãµÄ·ÖÀàÆ÷£¬»òÕßÕâÑùµÄ¹¥»÷ʲôʱºò»á¹¥»÷Ä㣬¶øÄãÎÞÄÜΪÁ¦¡£Äã¿ÉÒÔΧÈÆÕâÀàÏ®»÷ʼþ½øÐй滮£¬²¢Öƶ¨Ó¦¼±¼Æ»®À´»º½âÕâÖÖÇé¿ö¡£ÔÚΪºÚÌì¶ìʼþ×ö×¼±¸Ê±£¬ÕâÀïÓм¸¸ö¿ÉÒÔ̽Ë÷µÄ·½Ïò¡£
1. Öƶ¨Ê¼þÏìÓ¦Á÷³Ì
Ê×ÏÈÒª×öµÄÊÇ¿ª·¢ºÍ²âÊÔʼþ»Ö¸´¹ý³Ì£¬ÒÔÈ·±£ÔÚ´ëÊÖ²»¼°Ê±×ö³öÊʵ±·´Ó¦¡£Õâ°üÀ¨µ«²»ÏÞÓÚ£ºÔÚµ÷ÊÔ·ÖÀàÆ÷ʱ£¬ÓбØÒªµÄ¿Ø¼þÀ´ÑÓ³Ù»òÍ£Ö¹´¦Àí£¬²¢ÖªµÀµ÷ÓÃÄĸö¡£
Google SRE£¨Õ¾µã¿É¿¿ÐÔ¹¤³Ì£©ÊÖ²áÓÐÒ»Õ¹ØÓÚʼþ¹ÜÀí £¨https://landing.google.com/sre/book /chapters/managing-incidents.html£©£¬»¹ÓÐÒ»Õ¹ØÓÚÓ¦¼±ÏìÓ¦ ( https://landing.google.com/sre/book /chapters/emergency-response.html£©¡£Óйظü¼ÓÒÔÍøÂ簲ȫΪÖÐÐĵÄÎĵµ£¬Ó¦¸Ã²é¿´ NIST (National Institute of Standards and Technology£©ÍøÂ簲ȫʼþ»Ö¸´Ö¸ÄÏ £¨https://nvlpubs.nist.gov/nistpubs/ SpecialPublications/NIST.SP.800-184.pdf£©¡£×îºó£¬Èç¹ûÄã¸üÔ¸Òâ¿´Ò»¶Î¶Ô»°£¬Ç뿴һϡ¸Google ÈçºÎÔËÐÐÔÖÄѻָ´Åàѵ (DiRT) ³ÌÐò¡¹µÄÊÓƵ (https://www.usenix.org/conference /lisa15/conference-program /presentation/krishnan)£¬ÒÔ¼°¡¸Faceboook ÈçºÎ×ö³öʼþÏìÓ¦¡¹µÄÊÓƵ £¨https://www.usenix.org/node/197445£©¡£
2. ʹÓÃǨÒÆѧϰÀ´±£»¤Ð²úÆ·
Ã÷ÏԵĹؼüÀ§ÄÑÊÇÄãûÓйýÈ¥µÄÊý¾ÝÀ´ÑµÁ·ÄãµÄ·ÖÀàÆ÷¡£»º½âÕâÒ»ÎÊÌâµÄÒ»ÖÖ·½·¨ÊÇÀûÓÃǨÒÆѧϰ£¬ËüÔÊÐíÄãÖØÓÃÒ»¸öÓòÖÐÒѾ´æÔÚµÄÊý¾Ý£¬²¢½«ÆäÓ¦Óõ½ÁíÒ»¸öÓò¡£
ÀýÈ磬Èç¹ûÄã´¦ÀíͼÏñ£¬Äã¿ÉÒÔÀûÓÃÏÖÓеÄÔ¤ÏÈѵÁ·ºÃµÄÄ£ÐÍ£¨https://keras.io/applications/£©£¬¶øÈç¹ûÄã´¦ÀíÎı¾£¬Äã¿ÉÒÔʹÓù«¹²Êý¾Ý¼¯£¬±ÈÈçToxic CommentµÄ Jigsaw Êý¾Ý¼¯¡£
3. ÀûÓÃÒì³£¼ì²â
Òì³£¼ì²âËã·¨¿ÉÒÔÓÃ×÷µÚÒ»µÀ·ÀÏߣ¬ÒòΪ´Ó±¾ÖÊÉÏ˵£¬ÐµĹ¥»÷½«²úÉúÒ»×é´ÓδÓöµ½¹ýµÄÒì³££¬ÕâЩÒì³£ÓëËüÃÇÈçºÎʹÓÃÄãµÄϵͳÓйء£
Òý·¢Ò»ÏµÁÐз´³£ÏÖÏóµÄй¥»÷µÄÀúÊ·ÐÔ°¸ÀýÊÇÕë¶ÔÂíÈøÖîÈûÖÝ WinFall ²ÊƱÓÎÏ·µÄÂéÊ¡Àí¹¤¶Ä²©¼¯ÍŹ¥»÷£¨https://www.theatlantic.com/business /archive/2016/02/how-mit-students-gamed-the-lottery/470349/£©¡£
ÔçÔÚ 2005 Ä꣬¶à¸ö¶Ä²©¼¯Ížͷ¢ÏÖÁË WinFall ²ÊƱϵͳµÄÒ»¸öȱÏÝ£ºµ±ÀÛ»ý½±½ðÔÚËùÓвÎÓëÕßÖ®¼äƽ·Öʱ£¬ÄãÿÂòÒ»ÕÅ 2 ÃÀÔªµÄ²ÊƱ£¬Æ½¾ù¾ÍÄÜÕõ 2.3 ÃÀÔª¡£Ã¿´Î×ʽð³Ø³¬¹ý 200 ÍòÃÀԪʱ£¬ÕâÖÖ±»³ÆΪ¡¸roll-down¡¹µÄ·ÖÁѾͻᷢÉú¡£
ΪÁ˱ÜÃâÓëÆäËûÍÅÌå·ÖÏíÊÕÒ棬ÂéÊ¡Àí¹¤Ñ§ÔºµÄÍÅÌå¾ö¶¨ÌáÇ°ÈýÖÜ´ó¹æÄ£Âò¶Ï²ÊƱ£¬´Ó¶øÒý·¢Ò»³¡¼õ³ÖÐж¯¡£ºÜÃ÷ÏÔ£¬ÕâÖÖ´Ó¼«ÉÙÊýÁãÊÛÉÌÊÖÖйºÂòµÄ´óÁ¿²ÊƱÔì³ÉÁ˲ÊƱ×éÖ¯²ì¾õµ½µÄ´óÁ¿Òì³£ÏÖÏó¡£
×î½ü£¬ÕýÈç±¾ÎÄÇ°ÃæÌáµ½µÄ£¬µ±±ÈÌرҼ۸ñÔÚ 2017 Äê·è¿ñÉÏÕÇʱ£¬ÎÒÃÇ¿ªÊ¼¿´µ½Ò»´óÅú²»Á¼ÐÐΪÕßÊÔͼͨ¹ýÃâ·ÑʹÓà Google cloud ʵÀý½øÐÐÍÚ¾ò£¬´ÓÕâÒ»Èȳ±ÖлñÒ档ΪÁËÃâ·Ñ»ñȡʵÀý£¬ËûÃÇÊÔͼÀûÓÃÐí¶à¹¥»÷ý½é£¬°üÀ¨ÊÔͼÀÄÓÃÎÒÃǵÄÃâ·Ñ²ã¡¢Ê¹Óñ»µÁÐÅÓÿ¨¡¢Î£º¦ºÏ·¨ÔÆÓû§µÄ¼ÆËã»úÒÔ¼°Í¨¹ýÍøÂçµöÓã½Ù³ÖÔÆÓû§µÄÕÊ»§¡£
ºÜ¿ì£¬ÕâÖÖ¹¥»÷±äµÃ·Ç³£Á÷ÐУ¬ÒÔÖÁÓÚ³ÉǧÉÏÍòµÄÈ˹ۿ´ÁË YouTube ÉϹØÓÚÈçºÎÔÚ Google cloud ÉÏÍÚ¾òµÄ½Ì³Ì£¨ÕâÔÚÕý³£Çé¿öÏÂÊÇÎÞÀû¿ÉͼµÄ£©¡£ÏÔÈ»£¬ÎÒÃÇÎÞ·¨Ô¤Á϶ñÒâÍÚ¿ó»á³ÉΪÈç´Ë¾Þ´óµÄÎÊÌâ¡£
ÐÒÔ˵ÄÊÇ£¬µ±Òì³£·¢Éúʱ£¬ÎÒÃÇÒѾΪ Google Cloud ʵÀý×¼±¸ÁËÒì³£¼ì²âϵͳ¡£ÕýÈçÔ¤ÁϵÄÄÇÑù£¬´ÓÎÒÃǵÄÒì³£¼ì²âϵͳÒDZí°åÉÏÖ±½Ó»ñÈ¡µÄÉÏͼÖпÉÒÔ¿´³ö£¬µ±ÊµÀý¿ªÊ¼ÍÚ¾òʱ£¬ËüÃǵÄʱ¼äÐÐΪ·¢ÉúÁ˾޴óµÄ±ä»¯£¬ÒòΪ¹ØÁªµÄ×ÊԴʹÓÃÓëδÍ×еÄÔÆʵÀýËùÏÔʾµÄ´«Í³×ÊԴʹÓÃÓÐןù±¾µÄ²»Í¬¡£ÎÒÃÇÄܹ»Ê¹ÓÃÕâÖÖÒÆλ¼ì²âÀ´¶ôÖÆÕâÖÖÐµĹ¥»÷ý½é£¬È·±£Éæ¼°µ½µÄÔÆƽ̨ºÍ GCE ¿Í»§¶Ë±£³ÖÎȶ¨¡£
Êý¾ÝÖж¾
·ÖÀàÆ÷ÃæÁٵĵڶþÀ๥»÷Éæ¼°ÊÔͼ¶¾º¦ÄãµÄÊý¾ÝÒÔʹÄãµÄϵͳÐÐΪ³ö´íµÄ¶ÔÊÖ¡£
Ä£ÐÍƫб
µÚÒ»ÖÖÖж¾¹¥»÷³ÆΪģÐÍƫб£¬¹¥»÷ÕßÊÔͼÎÛȾѵÁ·Êý¾Ý£¬ÒÔÒƶ¯·ÖÀàÆ÷¶ÔºÃ¡¢»µÊäÈë¹éÀàµÄѧϰ±ß½ç¡£ÀýÈ磬ģÐÍƫб¿ÉÒÔÓÃÀ´ÊÔͼÎÛȾѵÁ·Êý¾Ý£¬ÆÛÆ·ÖÀàÆ÷½«Ìض¨µÄ¶ñÒâ¶þ½øÖÆÎļþ±ê¼ÇΪÁ¼ÐÔ¡£
¾ßÌåÀý×Ó
ÔÚʵ¼ùÖУ¬ÎÒÃǾ³£¿´µ½Ò»Ð©×îÏȽøµÄÀ¬»øÓʼþÖÆÔìÕßÍÅÌåÊÔͼͨ¹ý½«´óÁ¿À¬»øÓʼþ±¨¸æΪ·ÇÀ¬»øÓʼþÀ´Ê¹ Gmail ¹ýÂËÆ÷Æ«Àë¹ìµÀ¡£ÈçͼËùʾ£¬2017 Äê 11 Ôµ×ÖÁ 2018 Äê³õ£¬ÖÁÉÙÓÐ 4 ´Î´ó¹æÄ£¶ñÒâÐж¯ÊÔͼÍáÇúÎÒÃǵķÖÀàÆ÷¡£
Òò´Ë£¬ÔÚÉè¼Æ»ùÓÚ AI µÄ·ÀÓùʱ£¬ÄãÐèÒª¿¼ÂÇÒÔÏÂÊÂʵ:
¹¥»÷Õß»ý¼«µØÊÔͼ½«Ñ§µ½µÄÀÄÓúͺÏÀíʹÓÃÖ®¼äµÄ½çÏÞתÒƵ½¶ÔËûÃÇÓÐÀûµÄλÖá£
»º½â²ßÂÔ
ΪÁË·ÀÖ¹¹¥»÷ÕßÍáÇúÄ£ÐÍ£¬¿ÉÒÔÀûÓÃÒÔÏÂÈýÖÖ²ßÂÔ:
ʹÓúÏÀíµÄÊý¾Ý²ÉÑù£ºÐèҪȷ±£Ò»Ð¡²¿·ÖʵÌ壨°üÀ¨ IP »òÓû§£©²»ÄÜռģÐÍѵÁ·Êý¾ÝµÄ´ó²¿·Ö¡£ÌرðÊÇҪעÒâ²»Òª¹ý·ÖÖØÊÓÓû§±¨¸æµÄ¼ÙÑôÐԺͼÙÒõÐÔ¡£Õâ¿ÉÄÜͨ¹ýÏÞÖÆÿ¸öÓû§¿ÉÒÔ¹±Ï×µÄʾÀýÊýÁ¿£¬»òÕß»ùÓÚ±¨¸æµÄʾÀýÊýÁ¿Ê¹ÓÃË¥¼õȨÖØÀ´ÊµÏÖ¡£
½«ÐÂѵÁ·µÄ·ÖÀàÆ÷ÓëÇ°Ò»¸ö·ÖÀàÆ÷½øÐбȽÏÒÔ¹À¼Æ·¢ÉúÁ˶à´ó±ä»¯¡£ÀýÈ磬¿ÉÒÔÖ´ÐÐ dark launch£¬²¢ÔÚÏàͬÁ÷Á¿ÉϱȽÏÁ½¸öÊä³ö¡£±¸Ñ¡·½°¸°üÀ¨¶ÔһС²¿·ÖÁ÷Á¿½øÐÐ A/B ²âÊԺͻØËݲâÊÔ¡£
¹¹½¨±ê×¼Êý¾Ý¼¯£¬·ÖÀàÆ÷±ØÐë׼ȷԤ²â²ÅÄÜͶÈëÉú²ú¡£´ËÊý¾Ý¼¯ÀíÏëµØ°üº¬Ò»×龫ÐIJ߻®µÄ¹¥»÷ºÍ´ú±íÄãµÄϵͳµÄÕý³£ÄÚÈÝ¡£ÕâÒ»¹ý³Ì½«È·±£ÄãÄܹ»ÔÚÎäÆ÷»¯¹¥»÷¶ÔÄãµÄÓû§²úÉú¸ºÃæÓ°Ïì֮ǰ£¬¼ì²â³ö¸Ã¹¥»÷ºÎʱÄܹ»ÔÚÄãµÄÄ£ÐÍÖвúÉúÏÔÖøµÄ»Ø¹é¡£
·´À¡ÎäÆ÷»¯
µÚ¶þÀàÊý¾ÝÖж¾¹¥»÷Êǽ«Óû§·´À¡ÏµÍ³ÎäÆ÷»¯£¬ÒÔ¹¥»÷ºÏ·¨Óû§ºÍÄÚÈÝ¡£Ò»µ©¹¥»÷ÕßÒâʶµ½ÄãÕýÔÚ³öÓڳͷ£µÄÄ¿µÄÒÔijÖÖ·½Ê½Ê¹ÓÃÓû§·´À¡£¬ËûÃǾͻáÊÔͼÀûÓÃÕâÒ»ÊÂʵΪ×Ô¼ºÄ±Àû¡£
¾ßÌåÀý×Ó
ÎÒÃÇÔÚ 2017 ÄêÄ¿¶ÃµÄ×îÁîÈËÕ𾪵Ľ«Óû§·´À¡ÎäÆ÷»¯µÄ³¢ÊÔÖ®Ò»ÊÇһȺ 4chan Óû§£¬ËûÃǾö¶¨Í¨¹ýÁôÏÂÊýǧ¸ö 1 ÐÇÆÀ¼¶ÆÆ»µ CNN ÔÚÓ¦ÓÃÉ̵êµÄÅÅÃû¡£
·´À¡ÎäÆ÷»¯Ö®ËùÒÔ±»»µÈË»ý¼«ÀûÓã¬ÓкܶàÔÒò£¬°üÀ¨£ºÊÔͼѹÖƾºÕù¡¢½øÐб¨¸´¡¢ÑÚ¸Ç×Ô¼ºµÄÐÐ×Ù¡£ÉÏÃæµÄ½ØͼչʾÁËÒ»¸öºÚÊÐÌû×Ó£¬ÌÖÂÛÁËÈçºÎʹÓà Google À´»÷°Ü¾ºÕù¶ÔÊÖ¡£
Òò´Ë£¬ÔÚ¹¹½¨ÏµÍ³Ê±£¬ÄãÐèÒªÔÚÒÔϼÙÉèϹ¤×÷:
Èκη´À¡»úÖƶ¼½«±»ÎäÆ÷»¯ÒÔ¹¥»÷ºÏ·¨Óû§ºÍÄÚÈÝ¡£
»º½â²ßÂÔ
ÔÚ»º½â·´À¡ÎäÆ÷»¯µÄ¹ý³ÌÖУ¬ÐèÒª¼ÇסÒÔÏÂÁ½µã:
²»ÒªÔÚ·´À¡ºÍ³Í·£Ö®¼ä½¨Á¢Ö±½ÓÑ»·¡£Ïà·´£¬ÔÚ×ö³ö¾ö¶¨Ö®Ç°£¬È·±£ÆÀ¹À·´À¡ÕæʵÐÔ£¬²¢½«ÆäÓëÆäËûÐźŽáºÏÆðÀ´¡£
²»ÒªÒÔΪÊÜÒæÓÚÀÄÓÃÄÚÈݵÄËùÓÐÕ߶Դ˸ºÓÐÔðÈΡ£¾ÙÀýÀ´Ëµ£¬²»ÊÇÒòΪһÕÅÕÕƬµÃµ½ÁËÊý°Ù¸ö¼ÙµÄ¡¸ÔÞ¡¹ËùÓÐÕß²ÅÂòÏÂËü¡£ÎÒÃÇÒѾ¿´µ½ÎÞÊýÏ®»÷ÕßΪÁËÑÚ¸ÇËûÃǵÄ×Ù¼£»òÊÔͼÈÃÎÒÃdzͷ£ÎÞ¹¼Óû§¶øեȡºÏ·¨ÄÚÈݵݸÀý¡£
Ä£ÐÍÇÔÈ¡Ï®»÷
Èç¹û²»Ìá¼°Ö¼ÔÚ»Ö¸´ÑµÁ·ÆÚ¼äʹÓõÄÄ£ÐÍ»òÊý¾ÝÐÅÏ¢µÄ¹¥»÷£¬ÕâƪÎÄÕ½«ÊDz»ÍêÕûµÄ¡£ÕâÖÖ¹¥»÷ÊÇÒ»¸ö¹Ø¼üÎÊÌ⣬ÒòΪģÐÍ´ú±íÁËÓмÛÖµµÄ֪ʶ²úȨ×ʲú£¬ÕâЩ×ʲúÊǸù¾Ý¹«Ë¾µÄһЩ×îÓмÛÖµµÄÊý¾Ý½øÐÐѵÁ·µÄ£¬ÀýÈç½ðÈÚ½»Òס¢Ò½ÁÆÐÅÏ¢»òÓû§½»Òס£
È·±£½ÓÊܹýÓû§Ãô¸ÐÊý¾Ý£¨Èç°©Ö¢Ïà¹ØÊý¾ÝµÈ£©ÑµÁ·µÄÄ£Ð͵ݲȫÐÔÖÁ¹ØÖØÒª£¬ÒòΪÕâЩģÐÍ¿ÉÄܱ»ÀÄÓã¬Ð¹Â¶Ãô¸ÐÓû§ÐÅÏ¢ ( https://www.cs.cornell.edu/~shmat/shmat_oak17.pdf )¡£
¹¥»÷
Ä£ÐÍÇÔÈ¡µÄÁ½¸öÖ÷Òª¹¥»÷ÊÇ:
Ä£ÐÍÖؽ¨£ºÕâÀïµÄ¹Ø¼ü˼ÏëÊǹ¥»÷ÕßÄܹ»Í¨¹ý̽²â¹«¹² API À´ÖØд´½¨Ä£ÐÍ£¬²¢Í¨¹ý½«ÆäÓÃ×÷ Oracle À´Öð²½ÍêÉÆ×Ô¼ºµÄÄ£ÐÍ¡£×î½üµÄһƪÂÛÎÄ£¨https://www.usenix.org/system/files/conference /usenixsecurity16/sec16_paper_tramer.pdf£©±íÃ÷£¬ÕâÖÖ¹¥»÷Ëƺõ¶Ô´ó¶àÊýÈ˹¤ÖÇÄÜËã·¨ÓÐЧ£¬°üÀ¨Ö§³ÖÏòÁ¿»ú¡¢Ëæ»úÉÁÖºÍÉî¶ÈÉñ¾ÍøÂç¡£
³ÉԱй¶£ºÔÚÕâÀ¹¥»÷Õß¹¹½¨Ó°×ÓÄ£ÐÍ£¬Ê¹ËûÄܹ»È·¶¨¸ø¶¨µÄ¼Ç¼ÊÇ·ñÓÃÓÚѵÁ·Ä£ÐÍ¡£ËäÈ»´ËÀ๥»÷ÎÞ·¨»Ö¸´Ä£ÐÍ£¬µ«¿ÉÄÜ»áй¶Ãô¸ÐÐÅÏ¢¡£
·ÀÓù
×îÖøÃûµÄ·ÀÓùÄ£ÐÍÇÔÈ¡¹¥»÷µÄ·½·¨ÊÇ PATE ( https://arxiv.org/abs/1802.08908)£¬ÕâÊÇÒ»¸öÓÉ Ian Goodfellow µÈÈË¿ª·¢µÄÒþ˽¿ò¼Ü¡£ÈçÉÏͼËùʾ£¬PATE ±³ºóµÄ¹Ø¼ü˼ÏëÊǶÔÊý¾Ý½øÐл®·Ö£¬²¢ÑµÁ·¶à¸ö×éºÏÔÚÒ»ÆðµÄÄ£ÐÍÀ´×ö³ö¾ö²ß¡£ÕâÒ»¾ö²ßËæºó±»ÆäËû²»Í¬Òþ˽ϵͳµÄÔëÉùËùÑڸǡ£
|