Memo BASH

vrac

Redirection

Pour rediriger les erreurs dans le meme log : commande >log 2>&1

Cf aussi

trap commande signal

pour exécuter une commande en cas de signal (le try/catch du bash)

Attention, si on capture stdout avec un truc comme

exec > >(while read line; do echo "[$(date '+%F %T')] $line" >> $LOGRAP; done)

le contenu du fichier $LOGRAP est pas immédiatement disponible dans le script principal (quand un sous-shell écrit dans un fichier, faut visiblement qu'il ait terminé pour que le parent soit sûr de récupérer le contenu.

gestion des processus liés au terminal (avant/arrière plan, attachés/détachés)

Dans un terminal bash (probablement pareil avec d'autre shells), pour

  • lancer une commande en arrière plan, ajouter "&" à la fin,
  • basculer avant-plan ariière-plan, c'est fg/bg (foreground/background)
  • lancer une commande détachée du terminal (la tâche ne sera pas tuée à la fermeture du terminal), c'est nohup
  • pour la détacher alors qu'elle est déjà lancée, "ctrl+Z" pour la stopper (sans l'arrêter) pour reprendre la main, puis bg pour la passer en arrière plan (on peut vérifier avec jobs) et disown (ça va détacher tous les processus en arrière plan du terminal courant)

(cf man bash et http://www.siteduzero.com/tutoriel-3-67789-executer-des-programmes-en-arriere-plan.html)

jobs et at

On peut lister les jobs en cours avec jobs -p, mais ça ne concernent pas les jobs en attente de at (du genre echo 'faire un truc' | at 14:42), qui sont dans /var/spool/cron/atjobs/, mais que l'on peut lister avec atq ou virer avec atrm $numero_du_job.

variables

pour ajouter un rep au path : export PATH=$PATH:/le/rep/a/ajouter

ajouter des nb let "nb += 1" incremente de 1 echo $((35+1*5)) ou nb=$(($nb*3+1)) pour des operations

Modulo nb=$RANDOM let "nb %= 1000" #un modulo pour ramener nb entre 0 et 1000

Variables accessibles dans un script

$? C'est la valeur de sortie de la dernière commande. Elle vaut 0 si la commande s'est déroulée sans pb.

$0 Cette variable contient le nom du script

$1 à $9 Les (éventuels) premiers arguments passés à l'appel du script

$# Le nombre d'arguments passés au script

$* La liste des arguments à partir de $1

$@ La liste des arguments à partir de $1, chacun étant entre " (le nb et les contenu sont donc préservé si l'un deux comporte une espace, cf http://stefaanlippens.net/node/85, donc en général ce sera du for arg in "$@"…)

shift enlève $1 de la liste (ne le retourne pas, faut le mémoriser dans une variable avant si on en a besoin).

$$ le n° PID du processus courant

$! le n° PID du processus fils

Manipulation de chaînes

Regarder la manipulation de chaines sur http://abs.traduc.org/abs-fr/ch09s02.html et celle de nombres sur http://abs.traduc.org/abs-fr/ch09s07.html

Attention, globing correspond à une expression de "globing shell" (to*tu ⇒ commence par 'to' et fini par 'tu'), pas à une regex sed egrep ou autre.

${#chaine} # nb de car de $chaine
 
expr match "$chaine" 'globing'  # longueur max de globing à partir du début de $chaine
expr match "tatotu" 'to' # => 0
expr match "tatotu" '[at]*o' # => 4
 
expr index $chaine $souschaine # Position numérique dans $chaine du premier caractère dans $souschaine qui correspond.
expr index "tatotu" 'ua' # => 2
 
# Extraction d’une sous-chaîne
${chaine:pos} # Extrait une sous-chaîne de $chaine à partir de la position pos.
${chaine:pos:longueur} # Extrait long caractères de $chaine en démarrant à la position pos.
 
# Suppression de sous-chaînes
${chaine#globing} # Supprime la correspondance la plus petite de globing à partir du début de $chaine.
${chaine##globing} # Supprime la correspondance la plus grande de globing à partir du début de $chaine.
${chaine%globing} # Supprime la plus petite correspondance de globing à partir de la fin de $chaine. 
${chaine%%globing} # Supprime la plus grande correspondance de globing à partir de la fin de $chaine.
 
# Remplacement de sous-chaîne
${chaine/globing/remplacement} # Remplace dans $chaine la première correspondance de globing par "remplacement".
${chaine//globing/remplacement} # Remplace dans $chaine toutes les correspondances de globing avec "remplacement".
# ex pour échapper les slashes
chaine=/path/2/fichier; echo ${chaine//\//\\/} # => \/path\/2\/fichier
 
${chaine/#globing/remplacement} # Si globing correspond au début de $chaine, remplace globing (gourmand) par "remplacement".
# ex pour faire un basename
chaine=/path/2/fichier.ext; echo ${chaine/#*\//} # => fichier
 
${chaine/%globing/remplacement} # Si globing correspond à la fin de $chaine, remplace globing (gourmand) par "remplacement".
chaine=/path/2/fichier.ext.ext2; echo ${chaine/%.*/} # => /path/2/fichier

substitution de variable

bash ne permet pas l'écriture de $$var ou ${$var}. Pour contourner ce pb, utiliser les tableaux ${var[$indice]} (si $indice n'est pas numérique, il est converti en 0, on ne peut donc pas avoir de clés non numériques)

Mais pour des booléens on peut utiliser le test -v "$nomVar" pour savoir si elle a été définie ou pas (mais on peut pas récupérer sa valeur).

tableaux

Cf http://aral.iut-rodez.fr/fr/sanchis/enseignement/bash/ar01s12.html

Pour avoir les index d'un tableau :

$ arr=([1]=coucou bonjour [5]=hello)
$ echo ${!arr[*]}
1 2 5

Ce qui permet de parser un tableau avec

$ arr=([1]=coucou bonjour [5]=hello)
$ for i in ${!arr[*]}; do echo "$i  => ${arr[i]}"; done; # noter le ${arr[i]}, ${arr[$i]} marche aussi
1  => coucou
2  => bonjour
5  => hello

tests

Source: http://www.ac-creteil.fr/reseaux/systemes/linux/shell-scripts/shell-programmation.html et http://abs.traduc.org/abs-fr/ch07s02.html

  • Tester un fichier [ option fichier ]
  • -e : il existe
  • -f : c'est un fichier normal
  • -d : c'est un répertoire
  • -L : c'est un symlink
  • -h : c'est un symlink valide (marche pour les dossiers)
  • -r | -w | -x | -k | -p | -u : lisible | modifiable | exécutable | sticky | suid
  • -p | -t | -S : tube nommé | file descriptor | socket
  • -O | -G : il m' appartient | appartient à mon groupe
  • -s : il n'est pas vide
  • fichier_1 -ef fichier_2 : vrai si le fichier_1 et fichier_2 sont hard linkés (equal files)
  • fichier_1 -nt fichier_2 : vrai si le fichier_1 est plus récent (newer than) que le fichier_2 ou si fichier_1 existe et non fichier_2
  • Tester une chaine [ option chaine ]
  • -z | -n la chaine est vide / n'est pas vide
  • = | != les chaines comparées sont identiques | différentes
  • -v variable : $variable existe et a été assignée

ATTENTION à quoter la variable à tester :

t=''; [ -n $t ]; echo "-n : $?"; [ -z $t ]; echo "-z : $?";
# renvoie
#  -n : 0
#  -z : 0
t=''; [ -n "$t" ]; echo "-n : $?"; [ -z "$t" ]; echo "-z : $?";
# renvoie
#  -n : 1
#  -z : 0
  • Tester un nombre

[ nb1 option nb2 ] -eq | -ne égal | différent -lt | -gt strict. inf | strict. sup -le | -ge inf ou égal | sup ou égal

et on peut combiner ça avec du -a (and) -o (or) et ! (not). Par exemple
[ ! -f $1 -a $2 -lt 10 ] && echo "OK, le 1er param n'est pas un fichier et le 2e est inférieur à 10"

ulimit

  • -S :soft limit
  • -H : hard limit
  • -a : tout afficher
  • -n : nb max de fichiers ouverts (socket & connexions comprises)
  • -u : nb max de process lancés
  • -T : nb max de threads

Cf man bash /ulimit pour le reste… (ou man dash, sous debian les process sont souvent lancés par dash, alias de sh, cf /etc/passwd)

Ces valeurs sont fixées dans /etc/security/limits.conf (par user/group), où dans certains fichiers de paramètres des script de démarrage (/etc/default/nginx par ex).

Attention, ces valeurs s'héritent (par ex un "sudo -i -u toto ulimit -a" n'affiche pas forcément la même chose qu'un passthru("ulimit -a") exécuté par un pool php qui tourne sous le user toto, qui lui a hérité des valeurs du process php-fpm parent, cf /etc/default/php5-fpm)

Commandes perso

ionice -c3 find | cut -d/ -f2 > /tmp/files.list
uniq -c < /tmp/files.list | sort -n

Scripts

afflign.sh - afficher une (ou des) lignes d'un fichier

usage /root/scripts/afflign.sh N fichier
(N est la ligne de fichier à afficher ou un intervalle sous la forme N,M)

Commandes

Cf http://ss64.com/bash/ pour une liste de commandes bash et programmes gnu

vrac

netstat -tanpu | grep "0.0.0.0" pour voir les ports ouverts netstat -tap |grep -e "EST.*httpd" donne les connexions http actives (ESTABLISHED) netstat -tap |grep httpd donne les connexions http

voir le debut d'un fichier : head la fin : tail (tail -f affiche la fin au fur et a mesure que le fichier grossit)

page man dans un fichier man commande|col -b>fichier

un exemple de for, avec 2 instruction dans le do, sur une ligne: for log in /www/logs/*.log; do echo $log; cat $log | grep "194.254.29.133" | wc -l; done

pour recupere un bout de variable texte (cf Login n°115 p76)

for fich in tmp_*; do echo ${fich#tmp_*}; done;
	n'affiche que ce qui est apres le tmp_
for fich in *.log; do echo ${fich%*.log}; done;
	n'affiche que le nom du fichier sans le .log de la fin
for fich in ./*; do echo ${fich%%.*}; done; # jusqu'au 1er point
for fich in ./*; do echo ${fich%.*}; done; # jusqu'au dernier point
for fich in ./*; do echo ${fich##*.}; done; # ce qui reste apres le dernier point
for fich in ./*; do echo ${fich#*.}; done; # ce qui reste apres le premier point

find

pour afficher tous les fichiers de + de 20Ko (FreeBSD, notation 20k autorisée sous linux)

find /path \( -size +20000c \) -exec ls -l {} \;

lister les fichier de /tmp de 0 octets de + de 60mn

find /tmp -size 0 -mmin +60 -exec ls -alh {} \;

pour renommer les mp3 en swf

for i in *.mp3; do mv $i ${i%mp3}swf ;done

sed

fait du rechercher/remplacer sur des streams (avec regexp) : sed 'action/rech/rempl/opt

cf mémo sed

exemples sur http://iml.univ-mrs.fr/~bac/DESS/sed.html

ex: cette commande prend le fichier didiersvt.com.hosts et substitue (le s/ du début) didiersvt.com par didierxl.com dans tout le fichier (option /g à la fin).

cat didiersvt.com.hosts | sed 's/didiersvt.com/didierxl.com/g' > didierxl.com.hosts

autre exemple :

for fich in *.hosts; do cat $fich | sed 's/ns339/ns2230/g' > $fich; done

remplace ns339 par ns2230 dans tous les fichiers .hosts qu'il trouve dans le rep courant

for fich in *.hosts; do fichrac=`echo $fich | sed 's/.old//g'`; echo $fichrac; done

met dans fichrac le contenu de fich sans le .old à la fin en combinant ça avec des regexp ça donne

for fich in *.old; do fichrac=`echo $fich | sed 's/.old//g'`;cat $fich | sed 's#^\([^ ]*\)\([[:blank:]]*\)IN\([[:blank:]]*\)NS\([[:blank:]]*\)ns6.gandi.net.$#\1\2IN\3NS\4ns6.gandi.net.\

\1\2IN\3NS\4ns.ovh.net.#g' > $fichrac; done pour ajouter le ns.ovh.net. en plus de gandi dans tous les fichiers hosts à partir des old Noter le retour chariot dans le remplacement avec \ et la suite sur 2e ligne.

Début de ligne					^
Fin de ligne					        $
N'importe quel caractère			.
Zéro ou plusieurs					*
Un ou plusieurs					\+ 
a ou b ou c						a\|b\|c
'('							( 
')'							) 
'['							\[ 
']'							\] 
Caractère de l'ensemble ... 			[...] 
Caractère n'appartenant à l'ensemble ...	[^...] 
Capturer des caractères				\(...\) 
Première référence				\1

autre ex for & sed

for fich in *.hosts; do digovh.sh `echo $fich | sed 's/.hosts//g'` | grep ko; done

Voir aussi tr qui remplace des caractères (sans regexp, lire le man pour les pbs avec l'utf8).

sed est aussi efficace pour afficher une ligne particulière (ici la ligne 288)

sed -e '288 !d' <fichier

ou

sed -ne '288 p'

ou un bloc de lignes

sed -e '288,291 !d' </etc/apache/httpd.conf

ou

sed -ne '288,291 p' </etc/apache/httpd.conf

cut

cut récupère un morceau de chaine ou de ligne de fichier, par exemple, pour ne garder que la fin d'un chemin for rep in /home/mysql/* ; do [ -d $rep ] && base=`echo $rep | cut -d/ -f4` && nice mysqldump -uroot -p$pass -l $base > /fichier.sql ; done pour récupérer les GUIDuser du log nl3i grep kne nl3i_access.log | grep 'GET /kne/index.php?GUIDUser' | cut -d' ' -f7 | cut -d= -f2 | cut -d'&' -f1

mysql

mysql en console: mysql -uuser -ppass : se connecte sur mysql avec user/pass mysql -uuser -ppass -e"commande a passer" : se connecte sur mysql avec user/pass, execute la commande et sort

Quand on a perdu le mot de pase root:

/etc/rc.d/init.d/mysql stop
# Restart it with the following:
/usr/bin/safe_mysqld --skip-grant-tables --skip-networking &
# Connect to the server with:
mysql mysql
# Enter the following:
UPDATE user SET password=PASSWORD('the_new_password') WHERE User="root" AND Host="localhost"; 
# Exit the client
# Shut down the server with:
mysqladmin shutdown
# Start the server back up properly with:
/etc/rc.d/init.d/mysql start

trouvé sur http://cobalt-knowledge.sun.com/cgi-bin/kbase.cfg/php/enduser/std_adp.php?p_sid=YjolZNgg&p_lva=&p_refno=011220-000002&p_created=1008866547&p_sp=cF9ncmlkc29ydD0mcF9yb3dfY250PTk5OSZwX3BhZ2U9MQ**&p_li=

ex de backup & mail

#!/bin/sh
nom_fichier=sql_backup-$(date -I).tar.gz
fichier_attache=/home/log/$nom_fichier
sujet="sauvegar sql: $nom_fichier"
envoyer_a=mail@domain.tld
passmysql=XXXXXX
/usr/bin/mysqldump -A -u root -p$passmysql  |gzip > $fichier_attache ;
/usr/bin/uuencode $fichier_attache $nom_fichier| mail -s "$sujet" $envoyer_a;

mail

un simple cat fichier_a_joindre | uuencode nom_de_la_piece_jointe | mail -s "sujet" dest@domaine.tld marche aussi, équivalent à

uuencode fichier_a_joindre nom_de_la_piece_jointe | mail -s "sujet" dest@domaine.tld 

NFS

Les répertoires à exporter et les ip vers lesquelles exporter sont dans /etc/exports.

Suite à une modif de ce fichier, il faut réexporter tout pour prendre les changements en compte :

exportfs -vr

Pour modifier uid et gid à la volée, voici des options à mettre dans /etc/exports

squash_uids=1000 : l'uid 1000 d'un client qcq sera modifiée vers l'uid anonyme du serveur
squash_gids=1000 : idem gid 1000
anonuid=150 : pour ce montage, l'uid anonyme à prendre est 150
anongid=100 : pour ce montage, le gid anonyme à prendre est 100

Donc, par exemple, si daniel ayant l'ip 192.168.92.181, veut monter /home/www sous 500:500 (coté serveur) alors qu'il est 1000:1000 (côté client) il faut mettre :

/home/www               192.168.92.181(rw,sync,root_squash,squash_uids=1000,squash_gids=1000,anonuid=500,anongid=500)
 
linux/memo_bash.txt · Dernière modification: 26/01/2016 16:59 par daniel