В общем, решение проблемы.
Немного предыстории: понадобилось мне так же делать нормализацию звука, кроме реэнкода, получение пика звука решил сделать опять же через ffmpeg через volumedetect. А теперь интересный факт, так как мне пришлось парсить аутпут ffmpeg'a, то я заметил чертовски офигительную вещь, а именно - ffmpeg пишет весь аутпут в stderr! Просто эпично
Как это связано с зависаниями? Все просто - если процесс стартуется, как подпроцесс в джаве, то при заполнении stdout/stderr, буфер может закончится и из-за чего процесс повиснет в вейте на аутпут. Чтение обычного stdout у меня было, но ffmpeg оказывается туда не пишет ничего. Забавно.