Come posso installare .bsa e esp in Steam?

Non saprei per i .bsa, ma per gli .esp basta che tu li metta nella cartella C:\Program Files (x86)\Steam\steamapps\common\Skyrim\Data (o dovunque si trovi la tua installazione di Steam se non è in Programmi x86)

Hai installato Skyrim? Se sì, controlla da steam dove l'hai installato (da steam clicca col destro su skyrim nella tua libreria e seleziona "sfoglia file locali")

L'hai attivato dal Launcher? Also, se continui ad avere problemi, usa un mod manager come Vortex o Mod Organizer 2

Vortex ti richiede di scegliere quali giochi vuoi moddare, lo fai andando su "games" e scegliendo il gioco (in questo caso Skyrim SE).

Per il launcher... Il launcher di Skyrim. Quando apri il gioco da steam è la prima cosa che compare, dovrebbe aver scritto "Gioca Opzioni File Data Supporto Techico (sic!) Esci". Vai su File Data, spunta la mod, fai partire il gioco

Devono averlo cambiato con la SE usa Vortex allora