Graue Langohren bevorzugen in unseren Breiten Gebäude als ihren Sommerquartierstandort. Häufig nutzt die Art Spaltenquartiere in größeren Dachböden (z.B. Kirchen), wo sie mehrere Hangplätze besitzen. Dabei hängen die Tiere frei oder versteckt. Oft sind sie erst kurz vor dem abendlichen Ausflug aus dem Quartier sichtbar. Meist erfolgt ein regelmäßiger Wechsel zwischen verschiedenen Sommerquartieren.
Im Mittelmeerraum nutzt die Art vornehmlich Felsspalten und Höhleneingänge.
Sommerquartiere und Quartiere zur Jungenaufzucht (sog. Wochenstubenquartiere) befinden sich in Deutschland fast ausschließlich in und an
Gebäuden:
Die Art kommt nicht in Baumhöhlen vor und Funde in Nistkästen sind eine Ausnahme. Männchen nutzen sehr verschiedenartige Quartiere wie z.B. Dehnungsfugen an Brückenbauwerken.
Graue Langohren sind sehr ortstreu. Ein einmal gewählter Unterschlupf wird über viele Jahre und Generationen besiedelt, was den Schutz jedes bekannten Quartiers
unterstreicht.
In einzelnen Fällen sind im selben Quartier gemischte Vorkommen von Grauen Langohren mit ihrer Geschwisterart, dem Braunen
Langohr, vertreten. Dabei wurden jedoch separate Gruppen beobachtet und keine Mischung beider Arten in einer Gruppe. In Bayern wurde zudem der regelmäßige Wechsel von
zwei Wochenstubenkolonien beider Arten zwischen ihren Quartieren dokumentiert. Da somit in beiden Quartieren regelmäßig beide Arten auftreten, wird die Unterscheidung zwischen
den Arten erschwert.