Hmm, ich kann mir jetzt nur noch vorstellen, dass es Probleme mit den Schlüsseln gibt. Bei WEP und WPA werden verschiedene Schlüssellängen benutzt und u.U. benutzen Vista oder der Router dadurch auch unterschiedliche Systeme. Das der eine ASCII und der Hexadezimal nutzt. Probier mal aus, ob Du bei beiden alle Zeichen eingeben kannst oder ob Du auf bestimmte Zeichen (0-9 und A-F) beschränkt bist?
Ansonsten solltest Du den Schlüssel mal im Editor schreiben und von dort aus jeweils in die Konfigs reinkopieren. Mehr fällt mir momentan auch nicht ein, denn unterstützen sollten beide die Verschlüsselungsmethoden.
Gruß,
Hacky