EnumWindows(...) - вызывает callback для всех найденных окон и передает в него HWND окна, по нему можно
GetWindowText(...) взять полный заголовок окна и сравнить с шаблоном (например, проверить, есть ли там текст "L2PacketHack").
Убивать процесс лучше через
PostMessage( hWnd, WM_CLOSE, 0, 0 ); или
TerminateProcess(...), если прав хватает. (подробнее - в гугл)
Неужели на ЭТО нужно целый день потратить?
http://lmgtfy.com/?q=winapi+find+process
http://lmgtfy.com/?q=winapi+kill+process