Christoph Baumgartner blev matchhjälte när han höll sig framme på en hörna i den 21:a minuten och stötte in bollen med dobbarna bakom Georgij Busjtjan.
Målskytten byttes sedan ut efter en smäll mot huvudet tidigare i matchen.
Fler mål blev det inte i Bukarest.
Trepoängaren innebär att Österrike går förbi Ukraina i tabellen och slutar tvåa i grupp C. Därmed är laget klart för åttondelsfinal, där Italien väntar den 26 juni.
Resultatet betyder också att Sverige kan bli klart för slutspel i kavaj i kväll. Då krävs också att Danmark slår Ryssland, eller att Belgien besegrar Finland i grupp B. Den gruppen avgörs klockan 21.
KLIPP: Alexander Isak om ”Lineker-fadäsen”
Europamästerskapet
Ukraina
0 - 1
Österrike
Första halvlek
- 21'0 - 1Baumgartner (Alaba)
- 33'SchöpfBaumgartner
Halvtid
- TsyhankovMalinovskiy46'
Andra halvlek
- MarlosShaparenko68'
- 72'IlsankerLaimer
- BesyedinMikolenko85'
- 90'KalajdžicArnautovic