Posible lo es. Otra cosa es que sea interesante o recomendable. Nosotros nos quitamos el jboss de encima a partir de la versión 6 por varias razones, rendimiento y los tediosos cambios de versión , especialmente con los WS que eran infumables. Adicionalmente para una instalación mediana no recomendamos compartir el servidor de openkm otras aplicaciones, porque al final un DMS demanda bastantes recursos hardware. Si quieres trabajar con el tema este, lo primero que tienes que hacer es montarte el entorno de desarrollo
http://wiki.openkm.com/index.php/Developer_Guide.
Cualquier aportación es siempre bienvenida o sea que si trabajas con el tema de hacer que funcione con jboss nosotros lo compartiremos con el resto de la comunidad y en algún momento te orientaremos. Entiendo que desde tu punto de vista el jboss puede ser algo obligatorio en tu infraestructura, pero desde el punto de vista de openkm no lo es tanto, perderas rendimiento y seguro que vas a tener mas problemas entre cambios de version de jboss etc...