Ce qui suit est inspiré de http://www.clochix.net/post/2008/08/10/Redmine:-premieres-impressions

# on installe ruby et rails
aptitude install rails ruby1.8-dev
# sans le paquet ruby1.8-dev, on a le message "no such file to load -- mkmf" sur l'install passenger (apt-file search mkmf m'a indiqué le paquet manquant)
# puis mod_rails pour apache
gem install passenger
# et on tente l'install du module apache
/var/lib/gems/1.8/gems/passenger-2.0.3/bin/passenger-install-apache2-module
# il manque qq bricoles
aptitude install apache2-prefork-dev build-essential
# on relance
/var/lib/gems/1.8/gems/passenger-2.0.3/bin/passenger-install-apache2-module

Tout va bien, reste juste à coller dans /etc/apache2/conf.d/passenger

LoadModule passenger_module
/var/lib/gems/1.8/gems/passenger-2.0.3/ext/apache2/mod_passenger.so
PassengerRoot /var/lib/gems/1.8/gems/passenger-2.0.3
PassengerRuby /usr/bin/ruby1.8

et dans /etc/apache2/sites-available/mon_vhost_redmine

<VirtualHost ip_kivabien:80>
ServerName mon_vhost_redmine
ServerAdmin user@example.com
DocumentRoot /path/2/redmine/public
CustomLog /var/log/apache2/redmine_access.log combined
ErrorLog /var/log/apache2/redmine_error.log
<Directory /path/2/redmine/public>
  AllowOverride All 
</Directory>
</VirtualHost>

# conf de la base
cp -a /path/2/redmine/config/database.yml.example
/path/2/redmine/config/database.yml
# que l'on édite pour mettre les bons params
# Création du user/pass/db dans mysql
# et on crée le contenu (à lancer dans /path/2/redmine)
rake db:migrate RAILS_ENV="production"
rake redmine:load_default_data RAILS_ENV="production"

Reste juste à ajouter le host du vhost choisi dans le dns s'il n'y est pas déjà…

Avec libapache2-mod-fcgid, pas moyen d'avoir les css et js, j'ai systématiquement dans les logs

ActionController::RoutingError (No route matches "/stylesheets/jstoolbar.css" with {:method=>:get}):
    /var/lib/gems/1.8/gems/actionpack-2.1.0/lib/action_controller/routing/recognition_optimisation.rb:67:in `recognize_path'
...

(avec redmine 0.7.3)

Finalement, la solution que j'ai trouvée consite à virer dans public/.htaccess tout ce qui touche à fcgi, pour ne garder que

AddHandler cgi-script .cgi
Options +FollowSymLinks +ExecCGI
RewriteEngine On
RewriteRule ^$ index.html [QSA]
RewriteRule ^([^.]+)$ $1.html [QSA]
RewriteCond %{REQUEST_FILENAME} !-f
RewriteRule ^(.*)$ dispatch.cgi [QSA,L]
ErrorDocument 500 "<h2>Application error</h2>Rails application failed to start properly"

Je vire le ifModule car redmine marchera pas sans cgi, et si c'est le cas, ça donnera un message d'erreur explicite dans les logs.