Hallo,
ja der Titel sagt eigentlich schon alles.

Ich habe in den Projekteigenschaften im Reiter "Anwendung" als Symbol ein Favicon.ico (100x100) eingestellt.

Leider ist es in der Symbolleiste total krisselig

Eine Icon-Datei kann mehrere Bilder in verschiedenen Auflösungen speichern. Du musst also das Icon editieren, so dass es dein Bild in der passenden Auflösung anbieten kann. Sonst muss Windows das Bild skalieren, wodurch es hässlich werden kann.
Üblich sind die Grössen 16*16, 32*32, 64*64, 128*128, ...