Larmet kom in vid halv fem, då mannen ska ha setts jaga ett flertal ungdomar längs en gata i centrala Olofström med vad som beskrivs som ett vasst tillhygge.
När polisen kommer till platsen ska en annan person ha lyckats lugna den misstänkte gärningsmannen.
Mannen, som är i 60-årsåldern, grips misstänkt för grovt olaga hot och kniven tas i beslag.
Senare under kvällen släpptes mannen på fri fot. Misstankarna kvarstår dock.