OpenKM venia en la version 5.x con jboss y nos lo quitamos de encima por problemas de rendimiento ( básicamente consumia mucha máquina para nada a parte de las tediosas migraciones entre versiones de jboss ) y nos decidimos solamente por el tomcat por defecto. Esto no quiere decir que no pueda funcionar con jboss, sino que tienes que adaptar el proyecto de openkm para que funcione bajo el jboss. Esto implica un par de xml como mínimo y después estudiar un poco el tema de la seguridad. Si te interesa trabajar con esto, eres bien venido a realizar cualquier aportación en este sentido, nosotros te podemos ir orientando sobre lo que hay que hacer, lo primero es montarse el entorno de desarrollo
http://wiki.openkm.com/index.php/Developer_Guide
De la misma forma que puede funcionar sobre un jboss tambien podría sobre un iplanet, weblogic etc... el tema siempre es el mismo, los descriptores xml y la seguridad.