¿ÉÒÔ˵£¬¶ÔÕËÊÇÖ§¸¶ÏµÍ³×îÍ·ÌÛµÄÊÂÇ顣ÿһ±Ê½»Ò×£¬¶¼Òª×öµ½¸÷²ÎÓëÕߵļǼÄܹ»ÎǺϣ¬Ã»ÓÐÆ«²î¡£¶ÔÕËϵͳµÄ¹¤×÷£¬ÊÇ·¢ÏÖÓвîÒìµÄ¼Ç¼£¬¼´ÔþÕÊ£»È»ºóͨ¹ýÈ˹¤»òÕß×Ô¶¯µÄ·½Ê½£¬½â¾öÕâЩ²îÒ죬¼´Æ½ÕÊ¡£
¶ÔµçÉÌϵͳÀ´Ëµ£¬Ã¿Ò»±Ê½»Ò×£¬ÔÚËùÓÐÏà¹ØÖ÷Ìå²à¶¼ÒªÄܶԵÃÉÏ£º
½»Ò×Ö÷Ì壬Èç¹û·¢ÆðÈËÊǸöÈË£¬±ØÐëÄܹ»´Ó¸öÈ˽»Ò×ÀúÊ·¼Ç¼ÖÐÕÒµ½Õâ±Ê½»Òס£µ«´ó²¿·ÖÈ˲»»á±£Áôµç×ӼǼ£¬ËùÒÔÒ»°ãÊÇÌṩ¿ÉÒÔÏÂÔØµÄÕ˵¥»ò½»Ò׼Ǽ£¬ÈÃÓû§×Ô¼º¶ÔÈ¥¡£
½»Ò×¶ÔÊÖ£¬Ò»°ãÊÇÉÌ»§¡£ÉÌ»§²à¶ÔÕË´¦ÀíͬÓû§²à£¬Ò²½ö½öÌṩ¶ÔÕ˵¥¡£
½»Ò×ÇþµÀ²à£¬ÕâÊǶÔÕ˵ÄÖØµã£¬Ò»ÊǺËʵ½»Ò×Á÷Ë®£¬¶þÊǺËʵ½»Ò×Ó¶½ð£¬±Ï¾¹ÊÇ×âÓÃÈ˼ÒͨµÀ×ö½áËãµÄ¡£
ÄÇÓÐÄÄЩ¼Ç¼ÐèÒª¶ÔÕË£¿ ĿǰÖ÷ÒªÊÇÁ½¸ö£ºÒ»¸öÊǽ»Ò׼Ǽ£»Ò»¸öÊÇÍË¿î¼Ç¼¡£
¶ÔÕË´¦ÀíÁ÷³Ì
Ò»°ãÀ´Ëµ£¬¶ÔÕËÁ÷³ÌÉæ¼°µ½Èçϲ½Ö裺 ÇþµÀ¶ÔÕ˵¥ÏÂÔØ¡¢±¾µØ½»Ò׼Ǽ׼±¸¡¢ÔþÕË¡¢Æ½ÕË¡£
ÇþµÀ¶ÔÕ˵¥ÏÂÔØ
ÒøÐУ¬µÚÈý·½Ö§¸¶£¬ÒøÁªµÈ£¬»ù±¾¶¼»áÌṩ¶ÔÕ˵¥ÏÂÔØµÄ¹¦ÄÜ¡£²»¹ýÒ²ÓÐÉÙÊý¹¤×÷×ö²»µ½Î»»òÕßÌ«µ½Î»µÄÒøÐУ¬Ö»ÌṩÕ˵¥²éѯºǫ́£¬²»Ìṩ¶ÔÕ˵¥ÏÂÔØ¹¦ÄÜ¡£
¶Ô¿ª·¢ÈËÔ±À´Ëµ£¬ÕâÀïÓм¸¸ö¿Ó£º
¶ÔÕ˵¥¸ñʽ²»Ò»¡£Îı¾£¬XML£¬csvµÄ¶¼ÓС£ÎªÁ˺óÐøÄܹ»Í³Ò»´¦Àí£¬ÔÚÕ˵¥ÏÂÔØÍê³Éºó£¬ÐèÒª½øÐбê×¼»¯´¦Àí¡£
ÏÂÔØ·½Ê½²»Ò»£¬HTTP£¬HTTPS£¬FTPµÄ£¬¶¼ÓС£ÏÂÔØ³ÌÐòÐèÒª°´ÕÕÇþµÀµÄÐÒéÀ´´¦Àí¡£
ÏÂÔØÊ±¼ä²»Ò»£¬Ò»°ãÊÇÁ賿1µãºó£¬µ½ÖÐÎç12²ÅÄÜÓõÄÒ²ÓС£Èç¹ûÔÚÔ¤¶¨µÄʱ¼äÈ¡²»µ½Êý¾Ý£¬ÐèҪעÒâÖØÊÔ¶ÁÈ¡¡£
Îȶ¨ÐԲFTP·þÎñÆ÷³öÎÊÌâÄÇÊdz£ÓеÄÊ¡£ÇþµÀ²à½â¾ö·½°¸ÍùÍù¾ÍÊÇÖØÆô¡£ËùÒÔÖØÊÔ»úÖÆÊDZØÒªµÄ¡£
¿´Ò»ÏµÚÈý·½Ö§¸¶µÄ¶ÔÕ˵¥Çé¿ö£º

ÒøÐÐÖ±Á¬µÄ¶ÔÕËÇé¿ö£º

¼¼ÊõÑ¡ÐÍÉÏ£¬HTTP(S)ÓÃapache httpclient¼´¿ÉʵÏÖÁ´½Ó³ØºÍ¶ÏµãÐø´«£¬
FTPÒ²¿ÉÒÔʹÓÃApache Commons Net API¡£ µ«²»¹ÜÊÇÄÄÒ»¸ö£¬¶¼ÐèÒªÉèÖÃÖØÊÔ´ÎÊýºÍÁ´½Ó³¬Ê±¼ä¡£ÖØÊÔ´ÎÊýºÍ¼ä¸ôµÄÉèÖÃÐèҪСÐÄ£¬ÖØÊÔ̫Ƶ·±£¬ÈÝÒ×°Ñ·þÎñÆ÷´òËÀ.£»Ê±¼ä¼ä¸ôÌ«´ó£¬ÓÖ»á×èÈûºóÐø´¦Àí²½Öè¡£5¡«10·ÖÖÓÊÇÒ»¸öºÏÊʵÄÖØÊÔ¼ä¸ôÇø¼ä¡£
Á´½Ó³¬Ê±Ö¸ÔÚ·þÎñÆ÷³öÏÖÎÊÌâʱ£¬Á¬½ÓÔÚÖ¸¶¨Ê±¼äÄÚ»ñÈ¡²»µ½Êý¾Ý¼´×Ô¶¯¶Ï¿ª¡£Õâ¸öºÜÈÝÒ×±»ºöÂÔ¡£ÎÒÃÇÓÐÒ»´Îϵͳ³öÎÊÌ⣬ÊÇÇþµÀ²àµÄFTP¼ÙËÀºóÖØÆô£¬µ¼ÖÂÎÒÃǵĿͻ§¶Ë¹Òס£¬Ò»Ö±ÔڵȴýÖØÐÂÁ´½Ó¡£
ÇþµÀ¶ÔÕ˵¥±ê×¼»¯
ÕÒ¸öÀý×Ó´ó¼Ò¿´¿´£¬ ±ÈÈç΢ÐŵĶÔÕ˵¥£¬ËûÊÇcsv¸ñʽµÄ£¬°üÀ¨ÈçÏÂÐÅÏ¢£º
½»Ò×ʱ¼ä£ºÕâÊÇÔÚ΢ÐŲàµÄÖ§¸¶Íê³ÉµÄʱ¼ä¡£ Õâ¸öʱ¼ä»á³ÉΪһ¸öÏÝÚå¡£
¹«ÖÚÕ˺ÅID£¬ÉÌ»§ºÅ,×ÓÉÌ»§ºÅ,É豸ºÅ£º ÕâЩÐÅÏ¢ÐèÒª×öÑéÖ¤£¬È·±£ÊÇ×Ô¼ºµÄµ¥×Ó£¬²»ÒªÈÃ΢ÐŰÑÀÏÍõ¼ÒµÄµ¥×ÓÒ²¸ø·¢¹ýÀ´ÁË£»
΢ÐŶ©µ¥ºÅ,ÉÌ»§¶©µ¥ºÅ£º ÕâÁ½¸öÊǶԵ¥µÄºËÐÄ¡£Ç°ÕßÊÇ΢ÐŲà²úÉúµÄ¶©µ¥ºÅ£¬ÔÚ΢ÐÅÖ§¸¶½Ó¿Ú·µ»ØÖµÖÐÓС£µ«ÊÇÍòÒ»ÊÕ²»µ½Õâ¸ö·µ»ØÖµ£¬ÄÇÔÚ±¾µØ¼Ç¼ÖпÉÄܾͿÕÁË¡£
ºóÕßÊÇÎÒÃÇ·¢Ë͸øÎ¢ÐŵĶ©µ¥ºÅ£¬Ò»°ãÓÃÕâ¸öÀ´×ö¶Ôµ¥ÒÀ¾Ý¡£Á½±ßµÄÊý¾ÝÖж¼»áÓÐÕâ¸öÖµ¡£
Óû§±êʶ,½»Ò×ÀàÐÍ,½»Ò×״̬,¸¶¿îÒøÐÐ,»õ±ÒÖÖÀà,×ܽð¶î,ÆóÒµºì°ü½ð¶î£º
Õ⼸¸ö¾ÍÊǶԵ¥µÄºËÐÄ×ֶΣ¬±ØÐëÈ·±£Ë«·½ÊÇÒ»Öµġ£
ÉÌÆ·Ãû³Æ,ÉÌ»§Êý¾Ý°ü,ÊÖÐø·Ñ,·ÑÂÊ£ºÕâЩÊÇ¿ÉÑ¡ÑéÖ¤¡£

΢ÐŶÔÕ˵¥
¶øÄ³±¦µÄ¶ÔÕ˵¥£¬ÊÇÎı¾¸ñʽµÄ£¬Óÿոñ¸ô¿ª¡£ËûÃǼҵľͼòµ¥ºÜ¶à£¬Ö»ÓÐÉÌ»§¶©µ¥ºÅ£¬½»Ò×Á÷Ë®ºÅ£¬½»Ò×ʱ¼ä£¬Ö§¸¶Ê±¼ä£¬¸¶¿î·½£¬½»Ò×½ð¶î£¬½»Ò×ÀàÐÍ£¬½»Ò×״̬ÕâЩ×ֶΡ£

ij±¦¶ÔÕ˵¥
ÓÉÓÚÿ¸öÇþµÀµÄÕ˵¥¸ñʽ¶¼²»¾¡Ïàͬ£¬ Ôڵõ½Õ˵¥ºó£¬ÏÂÒ»²½ÊǶÔÕ˵¥×ö±ê×¼»¯´¦Àí£¬ÕâÑùÔþÕÊÒÔ¼°ºóÐø¹¤×÷¾Í¿ÉÒÔͳһ´¦ÀíÁË¡£
±ê×¼»¯ºóµÄÕ˵¥Êý¾Ý¿ÉÒÔ·ÅÔÚÎļþϵͳ»òÕßÊý¾Ý¿âÖС£ÕâÈ¡¾öÓÚ½»Ò×Êý¾ÝÁ¿¡£Ã¿Ìì°ÙÍòÒÔÉϵÄÁ¿£¬»¹ÊÇʹÓÃÎļþϵͳ£¬±È½ÏºÏÊÊ¡£Êý¾Ý¿â²Ù×÷Ïà¶Ô±È½ÏÂý£¬Ò²ÀË·Ñ×ÊÔ´¡£
»ùÓÚÎļþϵͳµÄ±ê×¼»¯Éæ¼°ÈçÏÂÄÚÈÝ£º
Îļþ¸ñʽ±ê×¼»¯£ºÍ³Ò»Ê¹ÓÃcsv»òÕßjson»òÕßxml¸ñʽ¡£Èç¹ûÊÇʹÓÃhadoop»òÕßsparkÀ´¶ÔÕË£¬Ê¹ÓÃcsvÊǸö²»´íµÄÑ¡Ôñ¡£
Îļþ´æ´¢Í³Ò»»¯£ºÎļþĿ¼£¬ÎļþÃû¶¼ÐèÒª×ñÑͳһÃüÃû¹æ·¶¡£ ΪÁ˼ӿ촦ÀíËÙ¶È£¬ÎÒÃÇʹÓÃhdfs×÷ΪÎļþϵͳ£¬ÓÐÀûÓÚºóÐøµÄ¶ÔÕ˵Ĵ¦Àí¡£
±¾µØ½»Ò׼Ǽ׼±¸
±¾µØ½»Ò׼ǼµÄ×¼±¸£¬×ܵÄÀ´ËµÓÐÈçÏ·½·¨: ¨C ɶ¶¼²»×ö£¬Ö±½ÓÓÃÔʼÊý¾Ý¡£¼øÓڴ󲿷ÖϵͳʹÓõÄÊÇmysql£¬ÕâÒ²Òâζ×ÅÔÚMySQLÉÏ×ö¶ÔÕË¡£¶ÔÕËʱÐèÒª´óÁ¿µÄÊý¾Ý²éÕÒ¹¤×÷£¬±ØÈ»»áÓ°ÏìÏßÉÏÒµÎñ¡£ÔÚÊý¾Ý¹æÄ£½Ï´ó£¬±ÈÈ糬¹ý100Íòʱ£¬¾Í²»Ì«ºÏÊÊÁË¡£
µ±È»£¬»¹ÓÐÒ»¸öÑ¡ÔñÊÇʹÓñ¸¿âÀ´Ö´ÐжÔÕË£¬ÕâÑù¼È¼òµ¥£¬Ò²²»Ó°ÏìÏßÉÏÒµÎñ¡£ÕâÊǵäÐ͵Ŀռ任ʱ¼äµÄ×ö·¨¡£
Èç¹ûÒµÎñ´óµ½ÐèÒª·Ö±í·Ö¿â²ÅÄÜ´¦Àí£¬ÄǶÔÕËÊý¾Ý×¼±¸Ò²²»Ò»Ñù¡£Ê¹Ó÷ֿâÒ²²»ÏÖʵ£¬ÒòΪ·Ö¿âÒ»°ãÊǰ´ÕÕÖ÷Ìåid£¬¶ø²»ÊÇÇþµÀid£¬À´·Ö¿â£¬ÕâÑù¶ÔÕ˾ÍÐèÒªÔÚ¶à¸ö¿âÉϽøÐУ¬Ð§ÂÊ·´¶ø½µµÍÁË¡£¶ø¶Ô·Ö±í·Ö¿â½¨Á¢´Ó¿âÒ²·Ç³£ºÄ·Ñ×ÊÔ´¡£ÕâÖÖÇé¿öÏ£¬ÐèҪͬ²½Ò»·ÝÊý¾Ýµ½(hdfs)ÎļþϵͳÖУ¬»òÕßNOSQLÊý¾Ý¿âÉÏ¡£
ÓÉÓÚ½»Ò׼ǼÊÇÖ§¸¶ÏµÍ³ºËÐÄÊý¾Ý£¬ÓдóÁ¿µÄÓ¦Óã¬ÈçÐÅÓá¢·ç¿ØµÈ£¬¶¼ÐèÒª½»Ò׼ǼÊý¾Ý¡£ÕâЩӦÓöԽ»Ò׼ǼµÄÐèÇó»¹²»ÍêȫһÖ£¬ÎªÁËÌáÉýÐÔÄÜ£¬
½»Ò׼Ǽ»áʹÓÃÒì²½µÄ·½Ê½À´½«Êý¾ÝͶµÝ¸øÊ¹Ó÷½¡£ ½»Ò׼ǼÔÚÈë¿âʱ£¬Í¶µÝÏûÏ¢µ½ÏûϢϵͳÖС£Ê¹Ó÷½¼àÌýÕâ¸öÏûÏ¢£¬Ò»µ©ÊÕµ½ÐÂÏûÏ¢£¬Ôò´Ó½»Ò׼Ǽ¿âÖвéѯÊý¾Ý£¬»ñÈ¡Êý¾Ý²¢¸üе½¿âÖС£¹ØÓÚ´ËÀàÊý¾Ýͬ²½µÄÎÄÕ²»ÉÙ£¬ÕâÀï¾Í²»Ïêϸ½éÉÜ¡£
ÔþÕÊ
ÔþÕÊÊǰ´ÕÕ¿Í»§¶©µ¥ºÅÀ´±È½Ï±¾µØ½»Ò׼ǼºÍÇþµÀ½»Ò׼ǼÊÇ·ñÒ»Ö¡£´ÓËã·¨½Ç¶È£¬ÊǼÆËãÁ½¸öÊý×éµÄ²îÒì¡£ÔÚµ¥»úÔËÐÐʱ£¬¿ÉÒÔ²ÉÓõÄËã·¨²»ÉÙ£¬ÕâÀï²»Ïêϸ½éÉÜ¡£
ÎÒÃÇÍÆ¼ö²ÉÓÃmapreduceÀ´ÔþÕÊ£¬ÕâÓиöÓÅÊÆ£¬¿ÉÒÔ°´ÕÕ¶©µ¥ºÅ½«ÇþµÀÌṩµÄ¼Ç¼ºÍ±¾µØ¼Ç¼shuffleµ½Í¬Ò»¸öreduce´¦ÀíÉÏ£¬ÕâÑù¾Í¿ÉÒÔºÜÈÝÒ×½øÐÐÊý¾Ý±È¶Ô¡£
ÔþÕÊÖÐ×î´óµÄ¿Ó£¬Äª¹ýÓÚÇзֵãµÄÎÊÌâ¡£
±ÈÈçÒÔÕû0µãΪÇзֵ㣬ÄÇ´æÔÚÒ»¸öÎÊÌ⣬±¾µØ23:59·¢ÆðµÄ½»Ò×£¬µ½ÁËÇþµÀ²à£¬¿ÉÄÜ»áÔÚ00:01´¦Àí£¬ÕâÒ»±Ê½»Ò×±ä³ÉµÚ¶þÌìµÄÕÊÁË¡£Êµ¼Ê´¦ÀíÖУ¬Ò»±Ê½»Ò×ÔÚÇþµÀ²à´¦Àí£¬»¨Éϼ¸·ÖÖÓ¶¼ÓпÉÄÜ¡£
¶ÔÓÚÇзֵ㸽½üÎÞ·¨È·ÈϵÄÕÊ£¬×öÒ»¸öʱ¼ä´°£¬ÔÚʱ¼ä´°ÄÚµÄÊý¾Ý£¬Áô´ýµÚ¶þÌì¶ÔÕËʱ¼ÌÐø´¦Àí¡£
ƽÕÊ
·¢ÏÖÁ½±ß²»Ò»ÖµÄÊý¾Ý£¬ÄÇÓ¦¸ÃÈçºÎ´¦Àí£¿Êý¾ÝÁ¿²»´óʱ£¬¼Ç¼ÆðÀ´£¬È˹¤Õç±ð¾ÍÐС£µ«Èç¹ûÊý¾ÝÁ¿ºÜ´ó£¬Ã¿ÌìÉÏǧÌõ£¬È˹¤´¦Àí¾Í³É±¾Ì«¸ßÁË¡£Õâ¸öûÓÐͳһµÄ´¦Àí·½·¨£¬ÐèÒª¸ù¾ÝÓÐÎÊÌâµÄÊý¾Ý£¬×ö¸ö·ÖÎö£¬È»ºó×ö×Ô¶¯´¦Àí¡£
Õë¶Ô½»Ò׼ǼµÄ¶ÔÕ˵Ĵ¦Àí£¬Ö÷ÒªÓÐÈçÏÂÇé¿ö£º
±¾µØÎ´Ö§¸¶£¬Ö§¸¶ÇþµÀÒÑÖ§¸¶¡£ÕâÖ÷ÒªÊDZ¾µØÎ´ÕýÈ·½ÓÊÕµ½ÇþµÀÏ·¢µÄÒ첽֪ͨµ¼Ö¡£
Ò»°ã´¦ÀíÊǽ«±¾µØ×´Ì¬ÐÞ¸ÄΪÒÑÖ§¸¶£¬²¢×öÏìÓ¦µÄºóÐø´¦Àí£¬±ÈÈç֪ͨҵÎñ·½µÈ¡£
±¾µØÒÑÖ§¸¶£¬Ö§¸¶ÇþµÀÒÑÖ§¸¶£¬µ«Êǽð¶î²»Í¬£¬Õâ¸öÐèÒªÈ˹¤ºË²é¡£
±¾µØÒÑÖ§¸¶£¬µ«ÊÇÖ§¸¶ÇþµÀÖÐÎ޼Ǽ£»»òÕß±¾µØÎ޼Ǽ£¬Ö§¸¶ÇþµÀÓмǼ¡£ÔÚÅųý¿çÈÕÒòËØÍ⣬ÕâÖÖÇé¿ö·Ç³£ÉÙ¼û£¬ÐèÒªÁ˽â¾ßÌåÔÒòºó×ö´¦Àí¡£
Õë¶ÔÍË¿îµÄ¶ÔÕË´¦Àí£¬Ö÷ÒªÓÐÈçÏÂÇé¿ö£º
±¾µØÎ´Í˿֧¸¶ÇþµÀÒÑÍ˿ÔòÒÔÖ§¸¶ÇþµÀΪ׼£¬Ð޸ı¾µØÎªÒÑÍË¿î״̬£¬²¢³ö·¢ºóÐø´¦Àí¡£
±¾µØÒÑÍ˿֧¸¶ÇþµÀÒÑÍ˿µ«Êǽð¶î²»Í¬£¬ÐèÒªÈ˹¤ºË²é£»
±¾µØÒÑÍ˿µ«ÊÇÖ§¸¶ÇþµÀÎ޼Ǽ£»»òÕßÖ§¸¶ÇþµÀÓмǼ£¬µ«ÊDZ¾µØÃ»ÓС£ ÔÚÅųý¿çÈÕÒòËØÍ⣬
ÕâÖÖÇé¿ö·Ç³£ÉÙ¼û£¬ÐèÒªÁ˽â¾ßÌåÔÒòºó×ö´¦Àí¡£
×ÜÖ®£¬¶ÔÕ˹¤×÷£¬¼´¸´ÔÓÒ²²»¸´ÔÓ¡£ÐèҪϸÐÄ£¬¶ÔÒµÎñÒªÓÐÉîÈëµÄÁ˽⣬²¢Ñ¡ÔñºÏÊʵļܹ¹. |