Здесь все зависит от целей и возможностей. Тем кто далек от вебмастеринга желательно выбирать более популярные движки форумов, хорошо поддерживаемые.
Для тех кто в состоянии самостоятельно покопаться в коде есть малоизвестные движки, но с большими возможностями кастомизации и перепилки под свои нужды.
Очень интересный в этом смысле PHP фреймворк
Cotonti (полностью бесплатен), который сам по себе состоит из ядра и набора расширений (модули, плагины) среди которых есть и форум.
По возможностям движок по умолчанию близок к DLE по функционалу + можно писать свои расширения. Используется шаблонизатор Cotemplate, html код шаблона отделен от PHP, при этом можно использовать PHP функции в шаблоне. В любой момент можно в существующий сайт внедрить форум, просто установив модуль, если не нужен - удалить (прямо в админке). При этом не нужно ничего менять в ядре (в отличие от DLE).
Из минусов: Поддерживается сообществом минимально на данный момент, возможности слабо задокументированы, большинство документации на английском, переводится постепенно и очень медленно, не хватает энтузиастов. Из-за позиции некоторых членов команды много разногласий, так как их устраивает такой статус движка когда кроме них специалистов мизер. Поэтому движок позиционируется как "каркас для разработчиков" в который можно внедрить что угодно.
Из главных плюсов: Тот кто пройдет начальные трудности в освоении, и поймет суть движка, полюбит его всей душой, так как он модульный, расширяемый, шустрый, безопасный, нагрузоустойчивый, надежный в умелых руках.