Ù¯ÃÇÓÐûÓоõµÃÔڳɶ¼ÂôÅú×Óͦ·³µÄ£¿É¶×Ó¹¤¾ß¶¼ÓУ¬¿É´ó»ï¶ùÄò»µ½ºÃ»õ£¬Ðͼ¿ì·³Í¸Á˰ɡ£½ñÌì½²¸ö¾÷ÇÏ£¬ÈÃÄãÃÇÇáËÉÕÒµ½³É¶¼ÂôÅú×î¶àµÄµØ·½£¬ÏþµÃÂ𣿴ó»ï¶ùÒ»ÆðÀ´¿´£¡
1. ³É¶¼ÂôÅú´óVƽ̨
³É¶¼µÄÂôÅú´óVƽ̨£¬¹þ¹þ¶ù£¬Í¦¶àµÄ£¬¿ÉÊÇÏþµÃÄĸö×î°ÍÊÊÂð£¿ÔÛÃÇÏÈ˵˵´ó»ï¶ù³£È¥µÄ¼¸¸ö¡£
1.1 ÌÔ±¦³Ç
ÌÔ±¦³Ç£¬ÂÕâ¿ÉÊdzɶ¼ÂôÅú×îÆ´µÄµØ·½Ö®Ò»¡£Æ¾¾Ýͳ¼Æ£¬ÌÔ±¦³ÇµÄÂô¼ÒÊýÁ¿Ôڳɶ¼ÅÅÃûµÚÒ»£¬ÂôÅúÁ¿Ò²×î¶à¡£ÔÛÃÇÌý˵¹ý£¬Ù¯ÃÇҲȥ¹ý£¬Ò»¹þ£¬ÌÔ±¦³ÇµÄÉÌÆ·ÖÖÀà·±¶à£¬´ÓÒ·þµ½µçÆ÷£¬Ò»Ó¦¾ãÈ«£¬²¢ÇÒ´ó´ó¶¼Âô¼Ò¶¼Í¦ÀÏʵ£¬ÖÊÁ¿¹ý¹Ø£¬ÔÛÃǰÚÒ»°Ú£¬ÊÆÐëҪȥһ¿´¡£
1.2 ¾©¶«³Ç
¾©¶«³Ç£¬¹þ£¬Õâ¿ÉÊÇÖÚ¶àÂô¼ÒµÄÌìÌ᣾©¶«³ÇµÄÂô¼ÒÊýÁ¿Ò²Êdzɶ¼ÂôÅúµÄǰ¼¸Ãû¡£Æ¾¾ÝÊý¾ÝÏÔʾ£¬¾©¶«³ÇµÄÂôÅúÁ¿ÔÚÒÑÍùÒ»ÄêÀïÔö³¤ÁË25%£¬´ó»ï¶ùĪŸú²»ÉÏŶ¡£ÕâÀïµÄÎïÁ÷ËÙ¶ÈÒ²ºÜ¿ì£¬Èôó»ï¶ù¾õµÃÍ¦Êæ·þµÄ£¬ÔÛÃÇÒ»¹þ£¬ÕâÀïµÄÉÌÆ·ÖÊÁ¿Ò²Í¦¸ßµÄ£¬ÓÈÆäÊǼҵçÀ࣬¸÷È˶¼Í¦ÂúÒâµÄ¡£
1.3 ÏÐÓã
ÏÐÓ㣬࣬Õâ¸öƽ̨¿ÉÊdzɶ¼ÂôÅúµÄÐÂÐã¡£ËäÈ»¸ÕÆð²½£¬¿ÉÊÇ´ó»ï¶ùÏþµÃ£¬ÏÐÓãµÄÂô¼ÒÔ½À´Ô½¶à£¬ÂôÅúÁ¿Ò²ÔÚÆ²ÍÑ¡£Æ¾¾ÝÊý¾Ý£¬ÏÐÓãµÄÂô¼ÒÊýÁ¿ÔÚÈ¥ÄêÔö³¤ÁË40%£¬ÔÛÃÇαð´í¹ýŶ¡£ÕâÀïµÄÉÌÆ·ÖÖÀàÒ²Ðí¶à£¬ÓÈÆäÊǶþÊÖÉÌÆ·£¬ÖÊÁ¿ºÍ¼Û¸ñ¶¼ºÜÓÕÈË¡£
2. ÂôÅú½ÖÆ´ºì°ü
½ÖÍ·ÂôÅúÒ²ÊDz»´íµÄÑ¡Ôñ¡£ÔÛÃǰÚÒ»°Ú£¬³É¶¼ÓкöàÂôÅú½Ö£¬ºÃ±ÈÔÚÈØ½Â·¡¢´ºÎõ·£¬ÕâЩµØ·½´ó»ï¶ù¶¼È¥¹ý£¬É¶×Ó»õ¶¼ÓУ¬ÖÊÁ¿¹ý¹Ø£¬ÊÆÐëҪȥһ¿´¡£ÔÛÃÇÌý˵£¬ÂôÅú½ÖÉϵÄÂô¼ÒÐí¶à£¬ÂôÅúÁ¿Ò²ºÜ´ó£¬ÄªÅ´ó»ï¶ùÕÒ²»µ½ºÃ»õ¡£
1. Ñ¡ÔñÕý¹æÆ½Ì¨
ÔÛÃÇÄª×·Ëæ¼¸¸öÂô¼ÒË££¬Ñ¡ÔñÕý¹æÆ½Ì¨¡£Õý¹æÆ½Ì¨µÄÂô¼Ò¶à£¬ÉÌÆ·ÖÊÁ¿Ò²¹ý¹Ø£¬²¢ÇÒÆ½Ì¨»áÓÐÒ»¶¨µÄ°ü¹Ü²½·¥£¬Èôó»ï¶ù¾õµÃÍ¦Êæ·þµÄ¡£ÌÔ±¦³Ç¡¢¾©¶«³Ç¡¢ÏÐÓã¶¼ÊDz»´íµÄÑ¡Ôñ¡£
2. ¿´ÆÀ¼Û
´ó»ï¶ùÏþµÃ£¬Âô¼ÒµÄÆÀ¼ÛºÜÖØÒª£¬ÔÛÃǰÚÒ»°Ú£¬¿´¿´Âô¼ÒµÄÆÀ·ÖºÍÆÀ¼Û£¬ÊÆÐëҪѡÔñÆÀ·Ö¸ßµÄÂô¼Ò¡£ÓÈÆäÊÇÆÀÂÛ¶àµÄÂô¼Ò£¬ÖÊÁ¿ºÍЧÀÍÒ²±È½Ï¿É¿¿¡£
3. Âô¼ÒÁªÏµ·½·¨
ĪÅ´ó»ï¶ù¸úÂô¼ÒÁªÏµ²»ÉÏ£¬ÔÛÃǰÚÒ»°Ú£¬ÁªÏµ·½·¨ÒªÇåÎú¡£Âô¼ÒµÄ¿Í·þ̬¶ÈºÃ£¬ÎïÁ÷Ëٶȿ죬ÕâЩ¶¼ÊÇÑ¡ÔñÂô¼ÒµÄÖØÒªÒòËØ¡£
4. ÊÔÂô
ÔÛÃÇÄª×·Ëæ¼¸¸öÂô¼ÒË££¬ÊÔÂôһϡ£ÓÈÆäÊÇÒ·þ¡¢Ð¬×ÓµÈÊÔ´©µÄÉÌÆ·£¬ÄªÅ¸úÂô¼ÒÏàͬһÏ£¬¿´¿´ÊÇ·ñ¿ÉÒÔÍË»»»õ¡£
5. ÃþÅÀ¹ö´ò
ÔÛÃÇÄª×øµÈ×Å£¬Òª¶àÈ¥¼¸¸öµØ·½ÂôÅú¡£³É¶¼ÂôÅú×î¶àµÄµØ·½ÓÐÐí¶à£¬ÔÛÃÇÃþÅÀ¹ö´ò£¬ÈÃ×Ô¼ºÕÒµ½×îÊʺϵĵط½¡£
ÎÊ£º³É¶¼ÂôÅú×î¶àµÄµØ·½ÓÐÄÄЩ£¿
´ð£ºÌÔ±¦³Ç¡¢¾©¶«³Ç¡¢ÏÐÓã¡¢ÂôÅú½Ö¡£
ÎÊ£ºÌÔ±¦³ÇºÍ¾©¶«³ÇÄĸöÂôÅúÁ¿´ó£¿
´ð£ºÆ¾¾ÝÊý¾Ý£¬ÌÔ±¦³ÇµÄÂôÅúÁ¿ÔÚÒÑÍùÒ»ÄêÀïÔö³¤ÁË25%£¬¾©¶«³ÇÒ²ÔÚ²»¾øÔö³¤£¬Á½¸öƽ̨¶¼Í¦¿¿Æ×µÄ¡£
ÎÊ£ºÏÐÓãÂôÅúÁ¿ÔõôÑù£¿
´ð£ºÏÐÓãµÄÂô¼ÒÊýÁ¿ÔÚÈ¥ÄêÔö³¤ÁË40%£¬ÂôÅúÁ¿Ò²ÔÚÆ²ÍÑ£¬ÖµµÃÒ»ÊÔ¡£
ÎÊ£ºÂôÅú½ÖÔõôÑù£¿
´ð£ºÂôÅú½Ö»õÔ´¸»ºñ£¬ÖÊÁ¿¹ý¹Ø£¬ÂôÅúÁ¿Ò²ºÜ´ó£¬ÖµµÃ´ó»ï¶ùÈ¥Ò»¿´¡£
ÎÊ£ºÈçºÎÑ¡ÔñÂô¼Ò£¿
´ð£ºÑ¡ÔñÆÀ·Ö¸ßµÄÂô¼Ò£¬ÁªÏµ·½·¨ÇåÎú£¬¿Í·þ̬¶ÈºÃµÄÂô¼Ò¡£
³É¶¼ÂôÅú×î¶àµÄµØ·½ÓÐÐí¶à£¬ÌÔ±¦³Ç¡¢¾©¶«³Ç¡¢ÏÐÓã¡¢ÂôÅú½Ö¶¼²»´í¡£ÔÛÃÇÄª×·Ëæ¼¸¸öÂô¼ÒË££¬Ñ¡ÔñÕý¹æÆ½Ì¨£¬¿´ÆÀ¼Û£¬ÁªÏµ·½·¨ÒªÇåÎú£¬¶àÈ¥¼¸¸öµØ·½ÂôÅú¡£Ï£ÍûÕâЩҪÁìÄܰﵽٯÃÇ£¬ÈÃÄãÃÇÇáËÉÄõ½ºÃ»õ£¬ÄªÈÃÂôÅúµÄ°ÃÄÕÔÙÀ§ÈÅÔÛÃÇ£¡
ÃþÅÀ¹ö´ò£¬ÈÃÔÛÃÇÔڳɶ¼ÂôÅúÖÐÓÎÈÐÓÐÓàÀ²£¡
Ù¯ÃÇÓÐûÓоõµÃÔڳɶ¼ÂôÅú×Óͦ·³µÄ£¿É¶×Ó¹¤¾ß¶¼ÓУ¬¿É´ó»ï¶ùÄò»µ½ºÃ»õ£¬Ðͼ¿ì·³Í¸Á˰ɡ£½ñÌì½²¸ö¾÷ÇÏ£¬ÈÃÄãÃÇÇáËÉÕÒµ½³É¶¼ÂôÅú×î¶àµÄµØ·½£¬ÏþµÃÂ𣿴ó»ï¶ùÒ»ÆðÀ´¿´£¡
1. ³É¶¼ÂôÅú´óVƽ̨
³É¶¼µÄÂôÅú´óVƽ̨£¬¹þ¹þ¶ù£¬Í¦¶àµÄ£¬¿ÉÊÇÏþµÃÄĸö×î°ÍÊÊÂð£¿ÔÛÃÇÏÈ˵˵´ó»ï¶ù³£È¥µÄ¼¸¸ö¡£
1.1 ÌÔ±¦³Ç
ÌÔ±¦³Ç£¬ÂÕâ¿ÉÊdzɶ¼ÂôÅú×îÆ´µÄµØ·½Ö®Ò»¡£Æ¾¾Ýͳ¼Æ£¬ÌÔ±¦³ÇµÄÂô¼ÒÊýÁ¿Ôڳɶ¼ÅÅÃûµÚÒ»£¬ÂôÅúÁ¿Ò²×î¶à¡£ÔÛÃÇÌý˵¹ý£¬Ù¯ÃÇҲȥ¹ý£¬Ò»¹þ£¬ÌÔ±¦³ÇµÄÉÌÆ·ÖÖÀà·±¶à£¬´ÓÒ·þµ½µçÆ÷£¬Ò»Ó¦¾ãÈ«£¬²¢ÇÒ´ó´ó¶¼Âô¼Ò¶¼Í¦ÀÏʵ£¬ÖÊÁ¿¹ý¹Ø¡£ÔÛÃǰÚÒ»°Ú£¬ÊÆÐëҪȥһ¿´¡£
1.2 ¾©¶«³Ç
¾©¶«³Ç£¬¹þ£¬Õâ¿ÉÊÇÖÚ¶àÂô¼ÒµÄÌìÌ᣾©¶«³ÇµÄÂô¼ÒÊýÁ¿Ò²Êdzɶ¼ÂôÅúµÄǰ¼¸Ãû¡£Æ¾¾ÝÊý¾ÝÏÔʾ£¬¾©¶«³ÇµÄÂôÅúÁ¿ÔÚÒÑÍùÒ»ÄêÀïÔö³¤ÁË25%£¬´ó»ï¶ùĪŸú²»ÉÏŶ¡£ÕâÀïµÄÎïÁ÷ËÙ¶ÈÒ²ºÜ¿ì£¬Èôó»ï¶ù¾õµÃÍ¦Êæ·þµÄ£¬ÔÛÃÇÒ»¹þ£¬ÕâÀïµÄÉÌÆ·ÖÊÁ¿Ò²Í¦¸ßµÄ£¬ÓÈÆäÊǼҵçÀ࣬¸÷È˶¼Í¦ÂúÒâµÄ¡£
1.3 ÏÐÓã
ÏÐÓ㣬࣬Õâ¸öƽ̨¿ÉÊdzɶ¼ÂôÅúµÄÐÂÐã¡£ËäÈ»¸ÕÆð²½£¬¿ÉÊÇ´ó»ï¶ùÏþµÃ£¬ÏÐÓãµÄÂô¼ÒÔ½À´Ô½¶à£¬ÂôÅúÁ¿Ò²ÔÚÆ²ÍÑ¡£Æ¾¾ÝÊý¾Ý£¬ÏÐÓãµÄÂô¼ÒÊýÁ¿ÔÚÈ¥ÄêÔö³¤ÁË40%£¬ÔÛÃÇαð´í¹ýŶ¡£ÕâÀïµÄÉÌÆ·ÖÖÀàÒ²Ðí¶à£¬ÓÈÆäÊǶþÊÖÉÌÆ·£¬ÖÊÁ¿ºÍ¼Û¸ñ¶¼ºÜÓÕÈË¡£
2. ÂôÅú½ÖÆ´ºì°ü
½ÖÍ·ÂôÅúÒ²ÊDz»´íµÄÑ¡Ôñ¡£ÔÛÃǰÚÒ»°Ú£¬³É¶¼ÓкöàÂôÅú½Ö£¬ºÃ±ÈÔÚÈØ½Â·¡¢´ºÎõ·£¬ÕâЩµØ·½´ó»ï¶ù¶¼È¥¹ý£¬É¶×Ó»õ¶¼ÓУ¬ÖÊÁ¿¹ý¹Ø£¬ÊÆÐëҪȥһ¿´¡£ÔÛÃÇÌý˵£¬ÂôÅú½ÖÉϵÄÂô¼ÒÐí¶à£¬ÂôÅúÁ¿Ò²ºÜ´ó£¬ÄªÅ´ó»ï¶ùÕÒ²»µ½ºÃ»õ¡£
1. Ñ¡ÔñÕý¹æÆ½Ì¨
ÔÛÃÇÄª×·Ëæ¼¸¸öÂô¼ÒË££¬Ñ¡ÔñÕý¹æÆ½Ì¨¡£Õý¹æÆ½Ì¨µÄÂô¼Ò¶à£¬ÉÌÆ·ÖÊÁ¿Ò²¹ý¹Ø£¬²¢ÇÒÆ½Ì¨»áÓÐÒ»¶¨µÄ°ü¹Ü²½·¥£¬Èôó»ï¶ù¾õµÃÍ¦Êæ·þµÄ¡£ÌÔ±¦³Ç¡¢¾©¶«³Ç¡¢ÏÐÓã¶¼ÊDz»´íµÄÑ¡Ôñ¡£
2. ¿´ÆÀ¼Û
´ó»ï¶ùÏþµÃ£¬Âô¼ÒµÄÆÀ¼ÛºÜÖØÒª£¬ÔÛÃǰÚÒ»°Ú£¬¿´¿´Âô¼ÒµÄÆÀ·ÖºÍÆÀ¼Û£¬ÊÆÐëҪѡÔñÆÀ·Ö¸ßµÄÂô¼Ò¡£ÓÈÆäÊÇÆÀÂÛ¶àµÄÂô¼Ò£¬ÖÊÁ¿ºÍЧÀÍÒ²±È½Ï¿É¿¿¡£
3. Âô¼ÒÁªÏµ·½·¨
ĪÅ´ó»ï¶ù¸úÂô¼ÒÁªÏµ²»ÉÏ£¬ÔÛÃǰÚÒ»°Ú£¬ÁªÏµ·½·¨ÒªÇåÎú¡£Âô¼ÒµÄ¿Í·þ̬¶ÈºÃ£¬ÎïÁ÷Ëٶȿ죬ÕâЩ¶¼ÊÇÑ¡ÔñÂô¼ÒµÄÖØÒªÒòËØ¡£
4. ÊÔÂô
ÔÛÃÇÄª×·Ëæ¼¸¸öÂô¼ÒË££¬ÊÔÂôһϡ£ÓÈÆäÊÇÒ·þ¡¢Ð¬×ÓµÈÊÔ´©µÄÉÌÆ·£¬ÄªÅ¸úÂô¼ÒÏàͬһÏ£¬¿´¿´ÊÇ·ñ¿ÉÒÔÍË»»»õ¡£
5. ÃþÅÀ¹ö´ò
ÔÛÃÇÄª×øµÈ×Å£¬Òª¶àÈ¥¼¸¸öµØ·½ÂôÅú¡£³É¶¼ÂôÅú×î¶àµÄµØ·½ÓÐÐí¶à£¬ÔÛÃÇÃþÅÀ¹ö´ò£¬ÈÃ×Ô¼ºÕÒµ½×îÊʺϵĵط½¡£
ÔÛÃÇС±à×Ô¼ºÔڳɶ¼ÂôÅúÁ˺ü¸Ä꣬һ¾Ò²ÊÇͦ·³µÄ£¬ØÊºóÃþÅÀ¹ö´ò£¬ÕÒµ½ÁËһЩ²»´íµÄµØ·½¡£ºÃ±È˵£¬ÌÔ±¦³ÇÉÏÓм¸¸öÂô¼Ò£¬ÆÀ·Ö¸ß£¬ÉÌÆ·ÖÊÁ¿¹ý¹Ø£¬²¢ÇÒÎïÁ÷ËٶȺܿ죬ÈÃ×Ô¼º¾õµÃÍ¦Êæ·þµÄ¡£ÏÐÓãÉÏÒ²Óм¸¸öÂô¼Ò£¬ËäÈ»ÐÂÐË£¬¿ÉÊÇÂô¼ÒÊýÁ¿¶à£¬ÉÌÆ·ÖÖÀ฻ºñ£¬ÖÊÁ¿Ò²²»´í¡£
ÎÊ£º³É¶¼ÂôÅú×î¶àµÄµØ·½ÓÐÄÄЩ£¿
´ð£ºÌÔ±¦³Ç¡¢¾©¶«³Ç¡¢ÏÐÓã¡¢ÂôÅú½Ö¡£
ÎÊ£ºÌÔ±¦³ÇºÍ¾©¶«³ÇÄĸöÂôÅúÁ¿´ó£¿
´ð£ºÆ¾¾ÝÊý¾Ý£¬ÌÔ±¦³ÇµÄÂôÅúÁ¿ÔÚÒÑÍùÒ»ÄêÀïÔö³¤ÁË25%£¬¾©¶«³ÇÒ²ÔÚ²»¾øÔö³¤£¬Á½¸öƽ̨¶¼Í¦¿¿Æ×µÄ¡£
ÎÊ£ºÏÐÓãÂôÅúÁ¿ÔõôÑù£¿
´ð£ºÏÐÓãµÄÂô¼ÒÊýÁ¿ÔÚÈ¥ÄêÔö³¤ÁË40%£¬ÂôÅúÁ¿Ò²ÔÚÆ²ÍÑ£¬ÖµµÃÒ»ÊÔ¡£
ÎÊ£ºÂôÅú½ÖÔõôÑù£¿
´ð£ºÂôÅú½Ö»õÔ´¸»ºñ£¬ÖÊÁ¿¹ý¹Ø£¬ÂôÅúÁ¿Ò²ºÜ´ó£¬ÖµµÃ´ó»ï¶ùÈ¥Ò»¿´¡£
ÎÊ£ºÈçºÎÑ¡ÔñÂô¼Ò£¿
ȱʧֵ´¦Àí
pandas¿âÖеÄfillna()ÒªÁì¡£Òì³£Öµ´¦Àí
±ê×¼»¯ºÍ¹éÒ»»¯
ÌØÕ÷¹¤³Ì
½»²æÑéÖ¤£¨Cross-Validation£©
»ìÏý¾ØÕó£¨Confusion Matrix£©
ROCÇúÏߺÍAUC
¾ù·½Îó²î£¨MSE£©ºÍR
ΪÁËÌá¸ßÄ£Ð͵ÄÐÔÄÜ£¬ÎÒÃÇ¿ÉÒÔ½øÐÐÒÔϼ¸ÖÖÓÅ»¯ÒªÁ죺
³¬²ÎÊýµ÷ÓÅ
ÕýÔò»¯
ÌØÕ÷Ñ¡ÔñºÍ¹¤³Ì
Ï£ÍûÕâЩÄÚÈÝÄܹ»×ÊÖúÄã¸üºÃµØÓß½âÊý¾Ý¿ÆÑ§ºÍ»úеѧϰµÄ»ù±¾¿´·¨ºÍÒªÁì¡£Èç¹ûÄãÓÐÈκξßÌåÎÊÌâ»òÐèÒª¸üÉîÈëµÄ̽ÌÖ£¬½Ó´ý¼ÌÐøÌáÎÊ£¡