Я сам рисовать не умею - у меня в школе единственная тройка за четверть была по рисованию.
Присылай мне комплект картинок, размерами 16*16, 32*32, 48*48, 64*64, все 16 цветов, если 16 никак, то 256 цветов, с отдельным цветом для прозрачности.
В принципе, все картинки засовываются в один ресурс иконки, и Windows сама выбирает подходящее разрешение иконки из комплекта, но, как видно по трею, делает она это не очень удачно, пережимая какое-то другое разрешение в то, что ей нужно. Поэтому для трея я обычно делал только 16*16, но для семерки специально запрограммировал отдать полный комплект, и она такое рисует.
У меня XP, если ей аналогично весь комплект отдать, тоже так коряво рисует.
По картинке вижу, что для таскбара идет разрешение 32*32 (там такие прозрачные углы 2*2 пикселя, а в остальных вариантах - более сглаженные), а для трея разрешение - хз, вероятно, тоже пережимает из 32*32 в 17*17. Но 17*17 - это явно нестандарт.