Talibanerna uppges ha tagit på sig dådet, något som enligt tv-kanalen DW ska ha varit ett svar på de senaste Nato-ledda luftanfallen i området runt staden Kunduz.
Det var vid klockan 23.05 som minst en bil lastad med sprängmedel exploderade i Mazar-i-Sharif.
– Självmordsbombaren körde in sin lastbil, fylld av sprängmedel, i väggen på det tyska konsulatet, säger polischef Sayed Kamal Sadat.
Mellan 87 och 100 personer har skadats och två personer har dödats i attacken, enligt lokala myndigheter som DW refererar till. Minst tio av de skadade ska vara barn.
Natos talesperson bekräftar att attacken ägt rum och meddelar att Natotrupp finns på plats, medan den tyska militärens talesperson säger att skottlossning hörts utanför konsulatet. Man utreder nu om en andra bil sprängts i samband med attacken.
Tyska utrikesdepartementet kallade på torsdagskvällen specialtrupper till ett krismöte med anledning av explosionen.