[go: up one dir, main page]

0% ont trouvé ce document utile (0 vote)
118 vues130 pages

Système D'exploitation Unix Shell Scripts

Bbji

Transféré par

zcrydpq5fk
Copyright
© © All Rights Reserved
Nous prenons très au sérieux les droits relatifs au contenu. Si vous pensez qu’il s’agit de votre contenu, signalez une atteinte au droit d’auteur ici.
Formats disponibles
Téléchargez aux formats PDF, TXT ou lisez en ligne sur Scribd
0% ont trouvé ce document utile (0 vote)
118 vues130 pages

Système D'exploitation Unix Shell Scripts

Bbji

Transféré par

zcrydpq5fk
Copyright
© © All Rights Reserved
Nous prenons très au sérieux les droits relatifs au contenu. Si vous pensez qu’il s’agit de votre contenu, signalez une atteinte au droit d’auteur ici.
Formats disponibles
Téléchargez aux formats PDF, TXT ou lisez en ligne sur Scribd
Vous êtes sur la page 1/ 130

SYSTÈME D’EXPLOITATION

UNIX
PROGRAMMATION SCRIPTS
Dr. Fatimazahra EL BIACH
Dr. Siham LAMZABI
Dr. Mohammed BELATAR

2024
Plan du semestre

Semaine 1 : Programmation par scripts Semaine 9 : Automatisation des tâches

Semaine 2 : Programmation par scripts Semaine 10 : Automatisation des tâches (suite)


(suite)
Semaine 11 : Automatisation des tâches (suite)
Semaine 3 : Mécanismes de base
Semaine 12 : Manipulation des fichiers et les
Semaine 4 : Fonctionnement en interactif données

Semaine 5 : Shell-scripts portables Semaine 13 : Manipulation des fichiers et les


données (suite)
Semaine 6 : Mécanismes complémentaires
Semaine 14 : Langage AWK
Semaine 7 : Mécanismes complémentaires
(suite) Semaine 15 : Langage AWK (suite)

Semaine 8 : Evaluation Semaine 16 : Evaluation


2
Introduction et Rappels

semaine 1

3
Shell, c’est quoi exactement?
● Le Shell : Il s’agit d’une interface texte entre
l’utilisateur et le système informatique
○ Tout se fait au clavier
○ Pas de clic de souris
● L’utilisateur tape des commandes qui sont exécutées par le
système
○ Le shell est donc un « interpréteur de commandes »
○ Chaque commande a une syntaxe particulière
○ Il existe des milliers de commandes différentes
● Les commandes peuvent aussi provenir d’un fichier
○ Le fichier contient les commandes à exécuter
○ L’utilisateur appel le fichier plutôt que de taper toutes les commandes
■ Utile pour les tâches répétitives 4
Pourquoi le shell?
● Le shell reste le moyen le plus efficace pour contrôler
le système. C’est aussi le plus utilisé sous Linux/Unix.
● Le shell est un véritable environnement de programmation
○ Variables, boucles, structures de contrôle « if »
○ Programmes
● Les programmes écrits pour le shell sont interprétés au
moment de l’exécution
○ Aucune compilation préalable n’est nécessaire
○ On peut profiter de différents outils développés sous différents
langages
○ Les performances n’égalent pas un programme en C
● Contrôler une machine sans y avoir un accès physique
5
(Serveur)
Les scripts shell

Script: Un script est un fichier contenant une série d’ordres


que l’on va soumettre à un programme externe pour qu’il les
exécute. Ce programme est appelé interpréteur de commandes.
Il existe de nombreux interpréteurs de commandes.
Naturellement, le shell en fait partie, tout comme certains
outils tels que Sed et Awk que nous verrons ultérieurement,
ainsi que d’autres langages tels que Perl, Python, Tcl/Tk,
Ruby, etc. Ces langages sont dits interprétés, par opposition
aux langages compilés (comme C, C++, Fortran, Ada, etc.)

7
Rappel des principes de base

● Super utilisateur : root


○ s’occupe de l’administration du système UNIX ( installation des
logiciels, création des profils utilisateurs, sauvegarde et
restauration des données etc...)
● Hôte (serveur) :
○ système centralisé sur lequel peuvent se connecter les utilisateurs
● Console (client) :
○ un écran, le plus souvent noir, destiné à recevoir des commandes
Shell via un clavier, branchée directement à la machine Hôte
● Terminal :
○ Environnement d’entrée/sortie de texte permettant l’émulation d’une
console
8
Rappel des principes de base

● Voir Annexe : liste des commandes de base


● Caractères de contrôle :
○ <cr> fin de ligne (retour chariot) $ stty -a
○ <tab> tabulation
○ <bs> ^H, backspace, effacement du caractère précédent
○ <del> ^?, souvent identique à <bs>
○ <^C> interruption d'un processus attaché au terminal (SIGINT/2)
○ <^\> arrêt / quit (SIGQUIT/3)
○ <^Z> suspension d'un processus en premier plan (SIGSTOP/19)
○ <^U> effacement de la ligne complète
○ <^W> effacement du mot qui précède
○ <^D> fin de fichier => si le shell lit, fin d'un shell
○ <^S> suspension de l'affichage écran (Xoff) 9
○ <^Q> reprise de l'affichage écran (Xon)
Rappel des principes de base

● le “prompt” (invite de commandes): variable PS1


○ $ en mode utilisateur
○ # en mode super-utilisateur
● Prompt secondaire : variable PS2
○ > en mode interactif
● Chemin de recherche des noms de commandes : variable PATH
● Structure d’une commande
○ une commande simple est une séquence de mots séparés par un
séparateur blanc et de redirections. Le premier mot désigne le nom de
la commande à exécuter, les mots suivants sont passés en arguments à
la commande.
○ la valeur retournée d'une commande est celle de son exit
10
Rappel des principes de base

● Les commandes :
○ syntaxe : <commande> <liste d’arguments>
○ sensibilité à la casse (majuscules/minuscules)
○ importance du séparateur “espace”
● le manuel (help) :
○ man <commande Unix>
● Historique :
○ commande “fc”
○ commande “history”
● Nettoyage de de l'écran
○ commande “clear”

11
Rappel des principes de base
● Enchaînement de commandes:
○ Commande simple en arrière plan
■ $ cmd [ arg ... ] &
○ Pipeline (tube de communication entre commandes)
■ $ cmd1 [ arg ... ] | cmd2 [ arg ...] | …
○ Exécuter la commande suivante en fonction de l’exit de la première
■ $ cmd1 [ arg ... ] || cmd2 [ arg ...]
■ $ cmd1 [ arg ... ] && cmd2 [ arg ...] ...
○ Séquencement de commandes successives en premier plan
■ $ cmd1 [ arg ... ]; cmd2 [ arg ... ]; cmd3 …
○ Groupement des commandes : exécution en sous-shell
■ $ ( cmd1 [ arg ... ]; cmd2 [ arg ... ]; cmd3 … )
○ Groupement des commandes : exécution dans le shell courant
■ $ { cmd1 [ arg ... ]; cmd2 [ arg ... ]; cmd3 …;}
12
Les scripts shell : exemple

Un ensemble de commandes, d’outils et de programmes


rassemblés dans un seul fichier dans une structure
particulière permettant d’accomplir une ou plusieurs tâches

● Exemple :

13
Choix du shell

● Plusieurs versions du shell:


○ sh (Bourne Shell) : créé par Stephen R. Bourne en 1977
○ csh (C Shell) : créé par Bill Joy en 1979
○ tcsh (C Shell amélioré) : créé par Ken Greer en 1979
○ ksh (Korn Shell) : créé par David Korn en 1982
○ bash (Bourne again shell) : créé par Brian Fox en 1987
○ zsh (Z Shell) : créé par Paul Falstad en 1990
● Possibilité de choisir
○ 1 exemplaire particulier du Shell par utilisateur
○ Il peut lancer plusieurs Shells sur sa session
● Sous Linux, on peut choisir son shell (commande chsh)
○ Le shell bash domine le marché depuis longtemps
14
Pourquoi écrire un script shell ?
● Exemples de domaines d’utilisation :
○ lancer quelques commandes disposant d’options complexes, et qu’on désire
employer régulièrement sans avoir à se reporter sans cesse à leur
documentation.
○ scripts d’initialisation (de boot) du système, permettent d’énumérer les
périphériques disponibles, et de les initialiser, de préparer les
systèmes de fichiers, les partitions, et de configurer les
communications et les services réseau.
○ préparation ou installation de certaines applications spécifiques
(logiciels) nécessitent un paramétrage complexe.
○ tâches automatisées pour vérifier l’état du système (mémoire, espace
disque, antivirus...) et maintenance périodique.
○ exploiter la sortie de certaines commandes et programmes, et les traces
des scripts Shell enregistrées dans des fichiers de journalisation
15
1. Affichez les shells
disponibles sur votre
système
2. Affichez votre shell
actuel
3. Affichez votre shell par

TD 1
défaut
4. Basculez d’un shell à un
autre puis fermer chaque
shell ouvert
5. Changez votre shell par
défaut
6. Vérifiez la disponibilité
des éditeurs de texte et
familiarisez-vous avec
16
l’un d’eux
1. En utilisant les
commandes tail et head,
écrire un script qui

TP 1
permet de réordonner
les lignes d’un fichier
“losange” contenant un
losange dont les lignes
sont inversées.
2. Re-écrivez votre script
en une seule ligne.

17
Programmation shell scripts

semaine 2

18
Structure d’un script
1. spécifier l'interpréteur
2. vérifier la syntaxe
3. signaler le lancement
4. effectuer la/les tâches
5. nettoyer l’environnement
#!/bin/bash 6. signaler la fin de l'exécution
[ $# -ne 1 ] && echo "Usage : `basename $0` int" 1>&2 && exit 1
echo debut du travail
for ((i=0; i<$1; i++)); do
for ((j=0; j<$1; j++)); do
echo -n '*'
done
echo -en '\n'
done
echo fin

# N.B : les variables spéciales seront étudiées plus tard dans ce cours
# N.B : ces étapes ne sont pas toutes obligatoires 19
Ligne shebang

Pensez à insérer la ligne shebang en début de script pour


indiquer le nom de l’interpréteur à employer. En général on
appellera :

● #!/bin/sh
● #!/bin/bash

Selon le contexte d’utilisation, ou sur certains systèmes


(Solaris par exemple), on fera appel à d’autres shells:

● #!/bin/ksh
● #!/bin/zsh 20
# une ligne de commentaire

Commentaires
echo bonjour # ou après une commande
: pseudo commentaire, toujours vrai

Les commentaires sont indispensables pour assurer une


lisibilité correcte d’un script shell. La syntaxe du shell
est parfois complexe et les lignes de commande incluant des
appels à grep , sed ou awk se révèlent souvent de véritables
défis pour le lecteur, même expérimenté.

Il est donc important de bien commenter un script, en


spécifiant le but/rôle d’un ensemble de lignes.

Cela simplifie nettement la relecture ultérieure et les


opérations de maintenance sur votre programme.
21
Commentaires : entête ###################################
# monscript.sh
# Permet de faire une synthèse des
Pour faciliter la maintenance d’un # différents fichiers log du serveur Apache
script, il est intéressant
# Auteur : Prénom NOM <prenom.nom@hote.com>
d’insérer quelques lignes de
commentaire formant un en-tête, # Historique :
contenant : # 18/01/2017 (1.3) :
# correction bug sur longueur des champs
# 14/01/2017 (1.2) :
● Le nom du script # ajout option -f
● Quelques lignes décrivant le # 09/01/2017 (1.1) :
# inversion de l'option -i
rôle et l’utilisation du script
# 07/01/2017 (1.0) :
● Le nom de l’auteur et son # écriture initiale
adresse e-mail, surtout si le ###################################
# VERSION=1.3
programme est destiné à être
diffusé
● Un historique des changements
22
Indentation

Les programmeurs débutants ont parfois du mal à savoir


comment décaler leurs lignes de code de la marge.
Il s’agit pourtant d’une très bonne habitude à prendre, qui
devient vite un automatisme et améliore la lisibilité du
script.
L’organisation logique du script doit apparaître au premier
regard ; le début et la fin de chaque structure de contrôle
(boucle, condition, fonction...) étant mis en relief par le
décalage du code contenu dans la structure.

23
Affichage des messages

● Nous avons déjà largement utilisé la commande echo qui


permet à un script d’envoyer un message sur la sortie
standard. C’est une commande interne du shell, mais il en
existe souvent un équivalent sous forme d'un exécutable
binaire /bin/echo . Les principales options reconnues par
la version Gnu (Linux) de “echo” et de son implémentation
interne dans Bash sont :
● -n : Ne pas effectuer de saut de ligne après l’affichage. Cela permet
de juxtaposer des messages lors d’appels successifs, ou d’afficher un
symbole invitant l’utilisateur à une saisie.
● -e : interpréter les caractères spéciaux (\n,\r,\\,...)
24
Affichage avec “echo” : caractères spéciaux

● \\ : Affichage du caractère \
● \XXX : Affichage du caractère dont le code Ascii est XXX
exprimé en octal
● \a : Beep
● \c : Éliminer le saut de ligne final (comme l’option -n )
● \n : Saut de ligne
● \r : Retour chariot en début de ligne
● \b : Retour en arrière d’un caractère
● \t : Tabulation horizontale
● \v : Tabulation verticale
25
Affichage d'une chaine (string) sur 20
%20s

Affichage formaté : printf


positions avec cadrage à droite
Affichage d'une chaine (string) sur 20
%-20s
positions avec cadrage à gauche
Affichage d'un entier (décimal) sur 3
Permet d’afficher des données formatées. %3d
positions avec cadrage à droite

Cette commande est une sorte de “echo” Affichage d'un entier (décimal) sur 3
%03d positions avec cadrage à droite et
nettement amélioré proposant des formats complété avec des 0 à gauche
pour afficher les nombres réels. Les Affichage d'un entier (décimal) sur 3
%-3d
programmeurs C reconnaîtront une positions avec cadrage à gauche

implémentation en ligne de commande de la Affichage d'un entier (décimal) sur 3


%+3d positions avec cadrage à droite et
célèbre fonction de la bibliothèque affichage systématique du signe
stdio.h Affichage d'un nombre flottant sur 10
%10.2f
positions dont 2 décimales

● $ printf chaine arg1 arg2 arg3… Affichage d'un nombre flottant sur 10
positions dont 2 décimales, complété
%+010.2f par des 0 à gauche, avec cadrage à
Exemples de formats (voir tableau) : droite et affichage systématique du
signe
26
Exécution d’un shell script
Remarque :

● Par invocation de l'interpréteur : le suffixe .sh ajouté


○ $ bash essai.sh à la fin du nom du
○ $ . essai.sh script n’a aucune
○ $ source essai.sh importance; il ne
● Par appel direct : s’agit que d’une
○ $ essai information pour
■ Déplacer le script dans l’un des répertoires de l’utilisateur. Le
PATH système Unix ne tient
■ Ajouter le répertoir du script à la variable PATH
aucun compte des
■ Ajouter . à la variable PATH (déconseillé)
● $ PATH=$PATH:.
suffixes éventuels
■ Indiquer le chemin du répertoire ou se trouve le des noms de fichiers.
script:
● ./essai
○ Il faut rendre le script exécutable : $ chmod +x essai
27
1. Quel est le résultat de la
commande suivante :
○ $ # echo bonjour
2. Avec une seule commande
d’affichage, affichez sur deux
lignes le message suivant:
○ Bonne

TD/TP 2
○ Journée
3. Écrire un script qui affiche la
date en permanence, chaque
écriture écrasant la précédente.
4. Écrire un script qui affiche sous
forme de tableau dix étudiants, et
leur classement à l’ordre inverse
(en utilisant printf et des
espaces).
○ Etudiant1 10
○ Etudiant2 9
○ ….
○ Etudiant10 1 28
Mécanismes de base

semaine 3

29
Personnalisation du shell

● Fichier de profile :
○ Emplacement : /etc/profile
○ Standard POSIX
○ Point de passage obligatoire après un login
○ Fournit par le système, modifiable par l’administrateur
○ Permet de configurer le Shell (couleurs, terminal, variables PATH,
PS1…)
○ Il concerne tous les utilisateurs
○ Il peut avoir des compléments (ex. dans /etc/profile.d/)
○ Il peut faire appel à d’autres compléments shell spécifiques (ex.
/etc/bash*)

30
Personnalisation du shell ● Bourne shell, Korn shell &
POSIX: ~/.profile
● C-shell: ~/.login, ~/.cshrc,
~/.logout
Autres scripts d’initialisation : ● Zsh: ~/.zshrc
● T-csh: ~/.tcshrc
● bash: ● Modifiables par l’utilisateur :
○ ~/.profile, ~/.bash_profile:
Personnalisation du shell
initialisations en tant que
shell de connexion
● Peuvent être utilisés pour:
○ Redéfinir les variables de
○ ~/.bashrc : à l’invocation du
/etc/profile
shell (sans fonction de
○ Définir de nouvelles variables
connexion)
○ Définir des fonctions
○ ~/.bash_logout : quand
○ Personnaliser l’apparence
l’utilisateur se déconnecte du
(PS1…)
système (nettoyage de
○ Définition d’alias pour des
l’environnement de travail)
commandes complexes

31
Couleurs de texts (terminal Couleur Text Couleur du fond

compatible) 30 Noir 40 Noir

31 Rouge 41 Rouge

32 Vert 42 Vert
● Afficher des message en couleurs
33 Orange 43 Orange
● Redéfinir les variables $PS1 et $PS2
● Coloriage du texte par la séquence : 34 Bleu 44 Bleu

\033[XXm 35 Magenta 45 Magenta


○ XX est le code de la couleur
36 Cyan 46 Cyan
○ Le code couleur « 0 » ramène à la couleur par défaut
■ ex. echo -e "\033[31mUn texte en rouge et\033[0m retour a la normale" 37 Blanc 47 Blanc
○ Les codes de couleurs peuvent se cumuler :
■ $ echo -e "\033[31m\033[44mHello world rouge sur fond bleu\033[0m" Nombre Effet
○ On peut cumuler plusieurs couleurs/effets séparés par
; 01 Gras
■ $ echo -e "\033[31;44;1;4;5;7mLe texte\033[0m"
04 Sous-ligné
● le caractère \033 peut être remplacé par \e
05 Clignotant

07 Sur-ligné/
Inversé
32
Personnalisation du prompt
\u le nom de login de l'utilisateur
courant
● On peut utiliser des caractères \v la version du bash ("2.00")
spéciaux \V la version release du bash,
version + patchlevel ("2.00.0")
\d la date actuelle au format \W le répertoire de travail actuel
"Weekday Month Date" ("Tue May 26") \w le répertoire de travail actuel
\h le nom de l'ordinateur depuis la racine
\H le nom complet de \! numéro de commande courant
l'ordinateur \@ heure actuelle au format 12h
\n saut de ligne am/pm
\s nom du shell ("bash") \T heure actuelle au format 12h
\[ démarre une séquence de HH:MM:SS
caractères non imprimable \A heure actuelle au format 24h
(couleurs…), HH:MM
\] ferme une séquence non \t heure actuelle au format 24h
imprimable HH:MM:SS 33
\$ si l’UID=0 affiche # sinon $
Les variables
● Types de variables :
○ Variables globales :
■ Le shell en fournit une copie à sa descendance
■ Dans les scripts d’initialisation
● appelées “Variables d’environnement”
● commande “env” pour les lister
■ Commande export pour les déclarer (setenv sous csh)
○ Variables locales
■ Créées par l’utilisateur dans le shell actuel
■ Utilisables dans l’environnement actuel
■ Liste de toutes les variables disponibles dans le shell actuel
(locales + environnement) : commande “set”
○ Variables de substitution (variables spéciales)
■ Variables positionnelles $1, $2 ...
■ Autres variables spéciales
34
Les variables ● Exemple :

$ nom=ALI
● Déclaration : $ adresse="2 bd de France"
○ variable=valeur $ echo $nom
○ declare variable=valeur (bash v.2+) ALI
○ typeset variable=valeur (bash, ksh..) $ echo $adresse
● Contenu d’une variable : 2 bd de France
○ $variable
$ unset adresse
○ ${variable}
$ set
● Suppression d’une variable:
HOME=/home/ali
○ unset variable
PATH=/bin:/usr/bin
PS1=$
nom=ALI

35
Les variables : exemples
$ fleur=rose
$ echo "une $fleur, des $fleurs"
une rose, des
$ echo "une $fleur, des ${fleur}s"
une rose, des roses
$ transport="air mer terre"
$ echo $transport
air mer terre
$ unset fleur transport
$ echo "fleur = $fleur et transport = $transport"

36
fleur = et transport =
Les tableaux (bash)

● tab[i]=valeur : définir un ● On peut initialiser le tableau entier


emplacement mémoire pour la ieme en une seule expression :
case du tableau, et la remplir ○ $ tab=( zero un deux trois quatre )
○ $ tab=( "fry" "leela" [42]="bender" "flexo" )
avec valeur. ○ $ tab=( ['un']="one" ['deux']="two"
● ${tab[i]} : pour consulter la ['trois']="three" )

valeur de la ieme case du ● L’expression ${tab[@]} fournit une


tableau. liste de tous les membres du tableau.
○ Les accolades sont obligatoires ● ${!tab[@]} fournit la liste des clés
pour éviter les ambiguïtés avec du tableau
${tableau}[i] ● ${#tab[i]} fournit la longueur du
○ ${tableau[0]} est identique à
ieme membre du tableau
$tableau . N’importe quelle
variable peut être considérée
● ${#tab[@]} , donne le nombre de
comme le rang zéro d’un tableau membres du tableau
qui ne contient qu’une case. 37
Les variables (suite)

● Une variable peut être déclarée en lecture seule :


○ $ readonly variable=valeur
● Le contenu d’une variable peut être directement lu depuis
l’entrée standard (clavier) :
○ $ read variable
● Si vous avez des espaces dans la valeur à affecter :
○ employez des guillemets droits : $ variable="Bonjour Monsieur"
○ employez des quotes (apostrophes) : $ variable='Bonjour Monsieur'
● Les simples quotes groupent les mots et suppriment toute
évaluation, les guillemets permettent l’évaluation :
○ $ nom="Kamel" ; echo 'Bonjour Monsieur $nom' ⇒ Bonjour Monsieur $nom

38
Variable vide vs variable non déclarée
● Par défaut, une variable qui n’a jamais été affectée est
traitée par défaut comme une chaîne vide :
○ $ echo '-'$inex'-'
○ --
● Une variable à laquelle on affecte une chaîne vide existe
quand même. Ce n’est pas comme si on la supprime avec
“unset”
● On peut différencier les variables inexistantes des
variables vides en utilisant l’option -u à l'exécution du
shell (ou avec la commande set) :
○ $ set -u
○ $ echo $inexistante
39
○ bash: inexistante : variable sans liaison
1. Identifiez les fichiers
d’initialisation de sessions
propres à votre compte.
2. Créez un alias permanent pour
remplacer la commande “ls -la”
par “ls”
3. Écrivez un script qui compte à

TD/TP 3
rebours de 5 à 0, avec une
pause d’une seconde à chaque
affichage. (en rouge)
4. Explorez la variable PS1 et
redéfinissez de manière
permanente votre propre prompte
en utilisant des couleurs et en
affichant les informations
suivantes :

<user>@<host>/<pwd>_<time>_$_ 40
Fonctionnement interactif

semaine 4

41
Rappels
● Redirection des entrées/sorties (voir cours 1e semestre)
○ >,1>,2>,>>,1>>,2>>,>&2,1>&2,2>&1
○ <,0< (alimenter une commande depuis un fichier)
○ << (saisie de document en ligne)
● De manière générale :
○ n< , n> , et n>> , dans lesquelles n représente un numéro de descripteur
de fichier (par défaut, 0 pour < et << , et 1 pour > et >> ).
■ redirection des deux sorties : &> et &>>
○ n>&m , où n et m sont deux numéros de descripteurs, la sortie vers n sera
redirigée vers m
● Les pipes “tubes” (voir cours 1e semestre)
○ opérateur | redirige sortie standard de cmd1 vers entrée standard cmd2
○ opérateur |& redirige les deux sorties de cmd1 vers entrée standard cmd2
42
Rappels: Substitution de commande

● Syntaxe : `commande` ou $(commande)


● Exemple :
○ $ echo "date actuelle = `date`"
○ date actuelle = lundi 27 mars 2017, 16:30:38 (UTC+0100)
○ $ echo "date actuelle = $(date)"
○ date actuelle = lundi 27 mars 2017, 16:30:38 (UTC+0100)
○ $ echo "Nombre de fichiers dans le répertoire: `ls | wc -w`"
○ Nombre de fichiers dans ce répertoire: 24

43
Extraction de sous-chaînes
$ variable=ABCDEFGHIJKLMNOPQRSTUVWXYZ
● L’opérateur ${} est la version $ echo ${variable:5:2}
généralisée de l’opérateur $ FG
permettant l’accès à la valeur $ echo ${variable:20}
d’une variable UVWXYZ
● L’option “:” de l’opérateur ${}
permet d’extraire une sous-
chaîne d’une variable
○ La syntaxe est: $ variable=AZERTYUIOPAZERTYUIOP
${variable:debut:longueur} $ echo ${variable#AZE}
○ ATTENTION à la portabilité!
RTYUIOPAZERTYUIOP
n’existe pas dans SUS3.
$ echo ${variable#*T}
● L’option “#” permet de supprimer
YUIOPAZERTYUIOP
le plus court préfixe
$ echo ${variable#*[MNOP]}
correspondant au motif qui vient
PAZERTYUIOP
après # :
44
○ syntaxe : ${variable#motif}
Extraction de sous-chaînes
$ variable=AZERTYUIOPAZERTYUIOP

$ echo ${variable##*T}
● L’expression ${variable##motif}
YUIOP
sert à éliminer le plus long
$ echo ${variable##*[MNOP]}
préfixe correspondant au motif
transmis.
● Symétriquement, les expressions $ echo ${variable%IOP*}
${variable%motif} et AZERTYUIOPAZERTYU
${variable%%motif} $ echo ${variable%%IOP*}
correspondent au contenu de la AZERTYU
variable, débarrassée $ echo ${variable%[X-Z]*}
respectivement, du plus AZERTYUIOPAZERT
court et du plus long suffixe $ echo ${variable%%[X-Z]*}
correspondant au motif indiqué. A
45
Remplacement de sous-chaînes

● ${variable/motif/remplacement} permet de remplacer la


première occurrence du
motif par la chaîne de remplacement.
● ${variable//motif/remplacement} permet de remplacer
toutes les occurrences du motif par la chaîne de
remplacement.
● ATTENTION! Cet opérateur est présent dans les shells
Bash, Korn 93 et Zsh, mais n’est pas normalisé par SUS3;
Aussi on risque d’avoir de légères divergences entre les
différentes implémentations
46
Les variables : longueur du contenu

$ variable=AZERTYUIOP
$ echo ${#variable}
● ${#variable} permet d’avoir la 10
longueur du contenu de la
$ echo $UID
variable “variable”
1000
● Si le contenu est un nombre, il
$ echo ${#UID}
est traité de la même manière
4
qu’une chaîne de caractères
$ variable=
$ echo ${#variable}
0
$ echo ${#inexistante}
0 47
Les variables : Actions par défaut

Lorsqu’un script fonde son comportement sur des $ variable=existante


variables qui sont fournies par l’utilisateur, $ echo ${variable:-defaut}
existante
il est important de prévoir une action par
$ variable=
défaut si la variable est vide ou n’existe pas. $ echo ${variable:-defaut}
defaut
● L’expression ${variable:-valeur} prend la unset variable
valeur indiquée à droite du modificateur :- $ echo ${variable:-defaut}
si la variable n’existe pas, ou si elle est defaut
vide. Si la variable existe et elle est non
vide, l’expression renvoie le contenu de la
variable.

48
Les variables : Actions par défaut
$ echo $vide
$ echo ${vide:=contenu}
contenu
$ echo $vide
● L’expression ${variable:=valeur} est similaire contenu
à la précédente, mais le contenu de variable
$ unset vide
sera modifié. Si la variable n’existe pas ou si
$ echo ${vide:?faut la
elle est vide, elle est alors remplie avec déclarer}
valeur. Ensuite, dans tous les cas, le contenu vide : faut la déclarer
de la variable est retourné.
● L’expression ${variable:?message} : Si la $ echo ${vide:?}
bash: vide : paramètre vide ou
variable est définie et non vide, sa valeur est
non défini
retournée. Sinon, le shell affiche le message
fourni après le point d’interrogation, et
abandonne le script ou la fonction en cours.
○ Si le message n’est pas précisé, le shell en
affiche un par défaut

49
Les variables : Actions par défaut
$ existante=4
$ echo ${existante:+1}
● ${variable:+valeur} renvoie la valeur 1
fournie à droite du symbole + si la $ echo ${inexistante:+1}
variable est définie et non vide,
sinon elle renvoie une chaîne vide $ var=
● Les quatre options précédentes de $ definie=${var:+oui}
l’opérateur ${} considèrent au même $ : ${definie:=non}
titre les variables indéfinies et les $ echo $definie
variables contenant une chaîne vide. non
Il existe quatre modificateurs $ var=1
similaires qui n’agissent que si la $ definie=${var:+oui}
variable est vraiment indéfinie ; il $ : ${definie:=non}
s’agit de ${ - } , ${ = } , ${ ? } , $ echo $definie
et ${ + } oui
50
Variables de substitution

● Elles sont définies implicitement et peuvent être


utilisées à tout moment dans le script
● Les variables positionnelles et les variables spéciales
sont utilisées pour accéder aux informations qui sont
fournies sur la ligne de commande lors de l’invocation
d’un script (paramètres), mais aussi aux arguments
transmis à une fonction. Les arguments sont placés dans
des paramètres qui peuvent être consultés avec la syntaxe
$1 , $2 , $3 , etc.
● L’affectation est impossible, on ne peut pas imaginer une
affectation : 1=2! 51
Variables positionnelles
● Le premier argument transmis est accessible en lisant $1,
le deuxième dans $2 , et ainsi de suite.
● Pour consulter le contenu d’un paramètre qui comporte
plus d’un chiffre, il faut l’encadrer par des accolades
${10} (Bash)
● L’argument numéro zéro ($0) contient le nom du script tel
qu’il a été invoqué
● Les variables positionnelles peuvent être modifiées :
○ avec la commande set :
■ $ set a b c
■ ATTENTION! l’ensemble des variables positionnelles est affecté!
○ avec la commande shift
■ Si suivie d’un nombre, ce dernier représente le nombre de 52
décalages désirés
Variables positionnelles : exemples

$ set a b c $ set a b c d e
$ echo $1 $2 $3 $ echo $0 $1 $2 $3
a b c bash a b c
$ set d e $ shift
$ echo $1 $2 $3 $ echo $0 $1 $2 $3
d e bash b c d
___ $ shift
#!/bin/bash $ echo $0 $1 $2 $3
while [ -n "$1" ] ; do bash c d e
echo $1 $ shift
shift $ echo $0 $1 $2 $3
done bash d e

53
Variables spéciales

● $# : nombre d’arguments, sans ● $? : code de sortie retourné


compter le paramètre $0 par la dernière commande
● $* : liste de tous les ● $$ : numéro de processus du
arguments shell actuel
● $@ : liste de tous les ● $! : numéro du dernier
arguments (supporte les processus en arrière plan
guillemets, la plus utilisée) ● $- drapeaux fournis au shell
● Toutes ces variables sont par set (options du shell)
modifiés par l’appel de shift
et de set

54
1. Écrire un script qui affiche
le répertoire de travail en
cours, en remplaçant le
répertoire personnel par le
symbole ~ en vert (préfixe)
2. Écrire un script qui prend

TD/TP 4
comme argument une adresse
e-mail et affiche le nom de
login correspondant.
3. En utilisant la commande mv,
changez l’extension de tous
les fichiers d’un répertoire
donné en 1e argument, d’une
extension donnée en 2e
argument à une autre en 3e
55
argument.
4. Vous souhaitez écrire
un script qui prend
obligatoirement un
paramètre d’une
longueur de 5
caractères minimum.

TD/TP 4 Écrire une expression


qui permet de vérifier
la syntaxe. En cas
(suite 1)
d’erreur, elle doit
afficher la syntaxe
correcte et quitter
avec un code 1.

56
Portabilité des scripts

57
Portabilité des scripts

● Une norme de l’IEEE : Posix


● Un standard de l’Open Group : SUS (Single Unix
Specification)
● La version 3 de ce standard (abrégé habituellement en
SUSv3) a intégré le contenu de la norme POSIX.
● pour plus d’info :
○ http://www.opengroup.org/standards/unix

58
Portabilité des scripts

● Un grand nombre de shells et de langages de scripts


semble converger vers le standard POSIX.
● On peut appeler Bash avec l'option --posix ou insérer un
set -o posix au début d'un script pour que Bash se
conforme très étroitement à ce standard.
● Une autre alternative consiste à utiliser, dans le
script, l'en-tête #!/bin/sh plutôt que #!/bin/bash pour
désactiver les fonctionnalités étendues de Bash.

59
Portabilité des scripts

● La plupart des scripts Bash fonctionnent directement avec


ksh, et vice-versa, car Chet Ramey a beaucoup travaillé
sur le portage des fonctionnalités du Kourn aux dernières
versions de Bash.
● Sur un UNIX commercial, les scripts utilisant les
fonctionnalités spécifiques aux commandes standards GNU
peuvent ne pas fonctionner. Ceci devient de moins en
moins un problème de nos jours car les outils GNU ont
petit à petit remplacé les versions propriétaires même
sur les UNIX dits “solides” (commerciaux).
60
Mécanismes complémentaires

61
Options du shell ● Options du shell :
○ $ bash -x monscript # exécution
du script en mode trace
■ affiche les étapes de
substitution, signalées
● La commande set par la ligne +
○ set -x : Active le mode “trace” ○ $ bash -v monscript # exécution
○ set - : désactive le mode “trace” en mode “bavard”
○ set -e : quitter immédiatement si le ■ affiche la ligne telle
retour d’une commande est différent qu’elle est écrite dans le
de 0 script, avant que le shell
○ set -C : interdire l’écrasement de ne l’interprète
fichiers existants par redirection ○ $ bash -n monscript
○ set -o option : activer certaines ■ vérification de la syntaxe
options du shell ○ $ bash -e monscript
■ exemple: $ set -o posix ■ provoque la fin
● Désactiver l’option : d’exécution d’un script si
○ set +<l’option> une commande se termine
○ ex: $ set +x avec un code de retour
différent de zéro
62
● Exemple :

Les options d’un script


#!/bin/bash
usage() {
echo "Usage: `basename $0` [-n <5-10>] [-m <chaîne de caractères>]" 1>&2;
exit 1;
}

while getopts ":n:m:" option; do


case "${option}" in
● On peut lire les options d’un n)
n=${OPTARG}
script en tant que liste ((n >= 5 && n <= 10)) || usage
;;
d’arguments avec les variables de m)
substitution, mais il existe un m=${OPTARG}
;;
moyen plus approprié pour -)
[ ${OPTARG%%=*} = “help” ] && usage #option longue
supporter tous les formats des ;;
:)
options: echo "Error: -${OPTARG} nécessite un argument." 1>&2 && usage
;;
● Commande getopts : *)
○ getopts ":opt1:opt2" variable usage
;;
○ à chaque appel de cette commande esac
on consomme une option dans done
shift $((OPTIND-1))
$variable if [ -z "${n}" ] || [ -z "${m}" ]; then
○ $OPTARG contient la valeur de usage
fi
l’option echo "n = ${n}"
echo "m = ${m}" 63
tee

● Cet utilitaire peut être imaginé comme un « T » de


plomberie, d’où son nom, c’est-à-dire un accessoire que
l’on insère dans un pipeline pour disposer d’une sortie
annexe. tee lit les données sur son entrée et les copie
sur sa sortie standard, tout en envoyant une copie
supplémentaire dans tous les fichiers dont le nom lui est
fourni en argument.
○ $ ls | grep 'sh' | tee fichier1 | wc -l
● Il est également possible d’utiliser le nom de fichier
spécial /dev/tty pour obtenir un affichage à l’écran des
données qui transitent par tee . 64
xargs

● Elle prend des lignes de texte sur ● Exemple :


son entrée standard, les regroupe ○ $ xargs -t -n 2 diff <<fin
pour les transmettre en argument à fic1 fic2 fic3
fic4 fic5 fic6
une autre commande. C’est le moyen
fin
le plus efficace de transformer des diff fic1 fic2
données arrivant dans un flux (de diff fic3 fic4
type pipeline ou autre) en arguments diff fic5 fic6
sur une ligne de commande. ● Options principales :
● Exemple : ○ -t pour avoir l'écho des
commandes
○ $ ls | xargs -n 1 grep ’bash’ ○ -n pour découper le flux
d'entrée en paquets

65
1. Écrire un script qui
nécessite la saisie d’un nom
de fichier complet en option
-f (avec son chemin d’accès)

TD/TP 5
et affiche successivement le
nom seul et le chemin seul.
2. En utilisant xargs dans un
script, cherchez le texte
donné en premier argument du
script dans tous les
fichiers du répertoire donné
en deuxième argument.

66
3. Écrire un script bash
qui prend des options -
h ou --host et -p ou --
port pour télécharger
une page web en
utilisant curl ou wget

TD/TP 5 Devoir: Écrire un script


qui prend en options
l’url d’un site Web et
(suite)
un port pour
télécharger une copie
du site entier avec
pages HTML, CSS, JS,
images …
67
Automatisation des scripts

68
Les tâches cron

● Cron est un gestionnaire de tâches


● Il permet de lancer l'exécution des tâches de manière
régulière et répétitive.
● Chaque utilisateur peut avoir sa propre crontab, lui
permettant de configurer les actions à effectuer
régulièrement.
● La commande qui permet l’édition des tâches planifiées
est : crontab
○ crontab -l : pour lister les tâches planifiées
○ crontab -e : pour éditer la tables des tâches planifiées

69
Crontab: syntaxe

● Une tâche planifiée dans un fichier de Cron est composée


de 3 données différentes :
○ Sa période de répétition définie par 5 données différentes :
■ Les minutes (de 0 à 59)
■ Les heures (de 0 à 23)
■ Les jours dans le mois (de 1 à 31)
■ Les mois (de 1 à 12 ou jan,feb,mar,apr… )
■ Les jours de la semaine (de 0 à 7 ou sun,mon,tue,wed,thu,fri,sat)
○ L’utilisateur système sous lequel la tâche sera réalisée (cas crontab
du root seulement);
○ La commande à réaliser ;
● Exemple :
○ 59 23 * * * /home/backup/backup.sh > /dev/null 70
Tâches Cron : périodicité

● Pour chacune des 5 composantes de temps, les syntaxes


suivantes sont utilisables :
○ * : pour chaque unité de temps ;
○ 5 : pour une unité de temps particulière, ici la cinquième ;
○ 5-10 : pour une intervalle, chaque unités entre 5 et 10 soit
5,6,7,8,9,10 ;
○ */5 : représente un cycle défini, ici toutes les toutes les 5 unités
soit 0,5,10,15... ;
○ 5,10 : représente une série définie, 5 et 10 ;
● Pour les mois et les jours de la semaine, on peut aussi
utiliser les abréviations :
○ jan,feb,mar,apr …
○ sun,mon,tue,wed,thu,fri,sat 71
Exemples

min heure jour/mois mois jour/semaine Périodicité

* * * * * Toutes les minutes

30 0 1 1,6,12 * à 00:30 le premier janvier, juin et décembre

0 20 * 10 1-5 à 20:00 chaque jour de la semaine sauf weekend (du


lundi au vendredi) d’octobre

0 0 1,10,15 * * à minuit les premiers, dixièmes, et quinzième jours de


chaque mois

5,10 0 10 * 1 à 00:05 et 00:10 chaque lundi et le 10 de chaque mois

72
Crontab : raccourcis
Il existe également certains raccourcis :

● @reboot ⇒ Au démarrage du système


● @yearly ⇒ Tous les ans ⇒ 0 0 1 1 *
● @annually ⇒ Tous les ans ⇒ 0 0 1 1 *
● @monthly ⇒ Tous les mois ⇒ 0 0 1 * *
● @weekly ⇒ Toutes les semaines ⇒ 0 0 * * 0
● @daily ⇒ Tous les jours ⇒0 0 * * *
● @midnight ⇒ Tous les jours⇒ 0 0 * * *
● @hourly ⇒ Toutes les heures⇒ 0 * * * *

73
Cron : notification

● Une fois une tâche cron est exécutée, sa sortie est


envoyée par e-mail à l’administrateur du système
○ l’adresse e-mail de l’admin doit être mentionnée dans la variable
MAILTO
○ l’utilitaire mailutils doit être installé sur le système
● Pour éviter qu’une tâche envoie un e-mail, on peut
rediriger ses sorties vers un trous noir :
○ en ajoutant > /dev/null 2>&1 à la fin de la commande ;
○ en ajoutant &> /dev/null à la fin de la commande ;

74
1. Mettre en place un
script qui, toutes les
5 minutes, ajoute la
date, l'heure et le
pourcentage de

TD/TP 6
l’utilisation actuelle
de la mémoire dans un
fichier nommé
"memoire.log".
(utilisez la commande
free pour récupérer les
informations sur la
mémoire)
75
Les services

76
● systemd est le logiciel qui

C’est quoi un service initialise le système


d'exploitation au démarrage
(dont le fameux processus init
fait partie) et qui démarre et
● Un service est un programme qui pilote les différents services
s'exécute en arrière-plan, de la machine.
plutôt contrôlé par le système
● Les services sont gérés par
d'exploitation que par
Systemd, qui les démarre et les
l'utilisateur directement.
arrête en fonction du besoin.
○ Aussi appelé “daemon”
○ Souvent avec un nom qui se ● Dans le cas d'un serveur, il
termine par “d” (ex. sshd, arrive que l'on ajoute des
mysqld …) services à la machine (par
● La plupart des logiciels exemple un serveur web, ou un
fonctionnent en mode serveur ont SGBD) et qu'il soit nécessaire
besoin d’installer un service de les piloter avec systemctl.
77
● Pour lister les services (en tant
que root):

Etats d’un service $ systemctl list-units --type service

On peut manipuler les services avec


les commandes suivantes :

● Les services ont des états : ● systemctl start [service_name] pour


○ Enabled : en cours démarrer un service stoppé
d'exécution. Aucun ● sudo systemctl stop [service_name] pour
problème. stopper un service
○ Disabled : non actif, ● systemctl restart [service_name] pour
peut être démarré à tout redémarrer un service, cela revient
moment. à faire un stop puis un start
○ Masked : ne fonctionnera que si
nous lui enlevons cette ● systemctl reload [service_name] pour
propriété. demander à un service de recharger
○ Static : ne sera utilisé qu'au
sa configuration sans s'arrêter
cas où un autre service en
● systemctl status [service_name] pour vérifier
aurait besoin.
l’état d’un service
● systemctl enable [service_name] pour que le
service soit démarré au démarrage du système
● systemctl disable [service_name] pour qu’il ne 78
soit pas lancé au démarrage
Configuration d’un service

● Les fichiers de configuration sont stockés dans


/lib/systemd/system/
● On peut l’éditer en utilisant la commande
suivante :
○ sudo systemctl edit nomduservice.service
● Le fichier du service stocke le nom,
description, l’emplacement du fichier de
configuration, les commandes à utiliser pour
démarrer ou arrêter le service, et bien
d’autres paramètres du service.
● Pour créer un nouveau service, il faut créer
son fichier /lib/systemd/system/ puis exécuter
les commandes suivantes :
○ systemctl daemon-reload
○ systemctl enable monservice.service
○ systemctl start monservice.service 79
La trace des services

● L’exécution des daemons est enregistrée dans les journaux


systèmes.
● Lorsqu’un service ne s’exécute pas correctement, on peut
consulter les journaux pour obtenir des informations.
● La commande journalctl sert à consulter les journaux
(logs) systemd.
● Pour avoir la fin du journal systemd, il faut utiliser la
commande journalctl suivante :
○ journalctl -xe

80
81
1. Vérifier les services
existants sur votre
système et leurs états
2. Vérifier le fichier de

TD/TP 7
configuration d’un
service existant.
3. Vous avez une application
NodeJS que vous souhaitez
lancer comme daemon.
Créez le fichier du
service et lancez-le.

82
Filtrage des données

83
Définition
● Filtres connus sous Unix :
○ tr
○ cut
○ sort
○ grep
● Un ensemble de commandes qui : ○ paste
○ acceptent des données de ○ diff
l’entrée standard ○ sed
○ effectuent des transformations ○ awk
sur ces données ● Tous ces filtres lisent donc
○ dirigent ces données vers la
leur données sur l’entrée
sortie standard
○ affichent leurs messages
standard et écrivent leurs
d’erreur vers la sortie résultats sur la sortie
d’erreurs standard. On peut bien sûr les
alimenter avec le contenu d’un
fichier/pipe et/ou rediriger
leur sortie vers un
fichier/pipe
84
Le filtre tr

● Syntaxe : tr [options] chaine1 chaine2 ● Abréviations :


● tr = translate characters ○ [a-z] = segment de 26
● fonction: substitution ou suppression des caractères, allant de
’a’ à ’z’
caractères sélectionnés
○ [a*n] = a...a (n fois)
● Un caractère de chaine1 est remplacé par le ○ \xyz = désigne le
caractère de même position dans chaine2 caractère de code
● Options principales: octal xyz
○ -d : suppression des caractères sélectionnés
○ -s : traiter caractère répétitif comme caractère
unique. ex. “aaaaa” traité comme “a”
○ -c : tous les caractères qui ne sont pas
spécifiés dans la première chaîne sont filtrés
(selon autre options -d ou -s)
○ voir manuel pour plus d’options...
85
Le filtre tr (exemples)

● $ echo "coucou" | tr [a-z] [A-Z]


○ COUCOU
● $ echo "aaabbbaaa" | tr -s [a-z] [A-Z]
○ ABA
● $ tr -d '\r' < ms_dos_file.c > inix_file.c
○ suppression du CR : cas transfert fichier MS DOS vers Unix
● $ echo "ariane" | tr "ai" "ou"
○ oruone

86
Le filtre cut
● La commande cut permet d'afficher des zones spécifiques
d'un fichier.
● options :
○ -c spécifie le numéro du caractère à extraire
○ -f spécifie le numéro du champs (field) à extraire
○ -d spécifie le délimiteur des éléments dans une ligne (default TAB)
● ex:
○ $ cut -c1 /etc/passwd # affichera le premier caractère du fichier
/etc/passwd.
○ $ cut -d: -f6 /etc/passwd #affichera le 6eme champ du fichier
/etc/passwd, dont le séparateur de champs est le caractère “:”
○ $ cut -f1,3 -d: /etc/passwd # extraire les éléments 1 et 3
○ $ cut -f1-3 -d: /etc/passwd # extraire les éléments de 1 à 3
87
○ $ cut -f4- -d: /etc/passwd # extraire les éléments à partir du 4eme
Le filtre sort

● Le programme sort permet de trier les lignes d'un


fichier. Les caractères ‘+’ et ‘-’ permettent de
spécifier de quelle colonne à quelle colonne le tri doit
s'effectuer (1ere colonne pour 0, 2eme colonne pour 1...)
● exemples :
○ $ sort -t: +1 -2 fichier.csv # t: utiliser le caractère ‘:’ comme
séparateur
○ $ sort -t: +5.1 fichier # tri sur un caractère situé à la 2eme
position du 6eme champ
○ $ sort -t ";" +0d -1 +2dr -3 fichier # tri multicritères
● On peut combiner et trier plusieurs fichiers à la fois
○ $ sort ... fichier1 fichier2 .. 88
Le filtre sort : quelques options

● -b Saute les colonnes constituées de blancs (Ignore les


espaces placés en début de champ).
● -d Trie de type dictionnaire (alphabétique).
● -n Trie par ordre numérique.
● -f Aucune différenciation n'est faite entre minuscules et
majuscules.
● -r Trie inverse.
● -M Trie chronologiquement les mois.
● -t: Trie suivants les champs séparés par “:” (on peut
spécifier un autre séparateur).
89
Le filtre paste
● usage : paste fichier1 fichier2...
● concatène les lignes de même n dans fichier1 et fichier2
● fusion horizontale de deux fichiers ou plus
● possibilité de spécifier un séparateur avec l’option -d
(par défaut TAB)

Le filtre grep
● filtre les lignes qui contiennent un texte (ou une
expression régulière)
● Exemple : ls -l | grep “fi”
○ -v : afficher les lignes qui ne contiennent pas l’expression
rationnelle. 90
○ -E : expression régulière étendue
Le filtre diff
● usage : diff fichier1 fichier2
● La commande diff donne les modifications à apporter au
premier fichier spécifié pour qu'il ait le même contenu
que le second. Les différences sont indiquées sous forme
de codes. Exemples:
○ 3a4,7 indique que après la troisième ligne du premier fichier doivent
être incrustées les lignes 4 à 7 du second.
○ 5,8d4 indique que les lignes 5 à 8 du premier fichier doivent être
supprimées, car elles n'existent pas derrière la ligne 4 du second.
○ 10,15c12,17 indique que les lignes 10 à 15 du premier fichier doivent
être intégralement changées contre les lignes 12 à 17 du second.
● Dans les trois cas de figure, les lignes précédées du
signe < se rapportent au premier fichier, et les lignes
précédées du signe > se rapportent au second.
● -b permet de ne pas tenir compte des blancs (espaces) lors
91
de la comparaison des lignes.
1. Écrire un script qui
affiche le processus qui
consomme le plus de
mémoire à l’instant,

TD/TP 8
ainsi que la taille de
l’espace mémoire utilisé
par ce processus. Vous
pouvez vous servir des
commandes ps et free en
plus des filtres de votre
choix.

92
Filtrage étendu
sed

93
La commande sed
● sed est un éditeur ligne par ligne non interactif, il lit
les lignes d'un fichier une à une (ou provenant de
l'entrée standard) leur applique un certain nombre de
commandes d'édition et renvoie les lignes résultantes sur
la sortie standard.
● c’est une évolution de l'éditeur ed lui même précurseur
de vi, la syntaxe n'est pas très conviviale, mais il
permet de réaliser des commandes complexes sur de gros
fichiers.
● Syntaxe :
○ $ sed -e 'liste_d_instructions' fichier_à_traiter
○ $ sed -f fichier_script fichier_à_traiter 94
sed : usage et comportement
● Si aucun fichier à traiter n’est indiqué, sed attend les
données sur son entrée standard.
● Lorsqu’on fournit directement les commandes sur la ligne,
grâce à l’option -e , il est préférable de les inclure
entre apostrophes simples, en raison de l’usage fréquent
des caractères $ , * , ? , etc., susceptibles d’être
interprétés par le shell
● Sed est un outil très puissant à la main des
administrateurs système puisqu’il permet de traiter de
grandes quantités de données en un temps record et avec
un minimum de ressources.
● option -n : mode silencieux, envoi vers la sortie 95
Expressions rationnelles et métacaractères

● [] permettent de désigner des caractères compris dans un certain


intervalle
● Le métacaractère ^ identifie un début de ligne. Par exemple l'expression
régulière ^a va identifier les lignes commençant par le caractère a.
● Le métacaractère $ identifie une fin de ligne. Par exemple l'expression
régulière a$ va identifier les lignes se terminant par le caractère a.
● Les métacaractères \( \) permettent d’isoler une sous chaîne pour la
réutiliser dans la chaîne de substitution
● * signifie la répétition (zéro ou plusieurs fois)
● \+ signifie la répétition (une ou plusieurs fois)
● . remplace n’importe quel caractère

96
Fonction de substitution s
● Permet de remplacer une chaîne par une autre
● sed 's/regexp/remplacement/options'
○ sed 's/toto/TATA/' fichier #remplacer la première occurrence de la
chaîne toto par TATA
○ sed 's/toto/TATA/3' fichier #remplacer la troisième occurrence de la
chaîne toto par TATA
○ sed 's/toto/TATA/g' fichier #remplacer toutes les occurrences de la
chaîne toto par TATA
○ sed 's/toto/TATA/p' fichier #en cas de remplacement, la ligne
concernée est affichée sur la sortie
○ sed 's/toto/TATA/w resultat.txt' fichier #en cas de substitution la
ligne en entrée est inscrite dans un fichier résultat

97
Fonction de substitution s

● Exemples : (suite)
○ sed -e 's/[Cc]haise/CHAISE/g' fichier #substitue toutes les chaînes
Chaise ou chaise par CHAISE
○ sed -e 's/^#//' fichier #décommenter tous les commentaires situés en
début de ligne
○ sed -e 's/^[a-zA-Z ]*$/#&/g' #commenter toute ligne qui contient
seulement des lettres et des espaces
○ sed -e 's/\([0-9][0-9]*\)\([a-z]\)/__\1__\2/g' #entourer tous les
nombres avec des __ s’ils sont suivis par une lettre
● Note:
○ & permet de faire une référence arrière vers la chaîne filtrée
○ \1, \2 …. permettent de faire une référence arrière à une sous chaîne
filtrée, les sous chaînes sont délimitées par des parenthèses
98
Fonction de suppression d

● La fonction d de sed supprime les lignes correspondantes


au critère donné :
○ sed '20,30d' fichier #supprimer les lignes de 20 à 30 du fichier
fichier.
○ sed '/toto/d' fichier #supprime les lignes contenant la chaîne toto.
○ sed '/toto/!d' fichier #supprime les lignes ne contenant pas la
chaîne toto.
● REMARQUE : les changements apportés par sed n’affectent
pas le fichier en entrée. Elles sont juste envoyées vers
la sortie, sauf si l’option -i est spécifiée!

99
Autres fonctions w,p,q,=,

● p (print) : filtre les lignes sélectionnées vers la


sortie (même si -n est activée)
● w (write) : écrire les lignes filtrées dans un fichier
● q (quit) : quitter sed dès que l’expression est réalisée
(ne pas traiter les lignes suivantes)
● = : afficher le numéro de la ligne

100
1. Supprimer tous les
commentaires commençant par
// dans un fichier php
2. Mettre en gras le mot Linux

TD/TP 9 ou linux dans un fichier


html
3. Sachant qu’on a un fichier
qui contient des dates au
format 2023-04-20, écrire un
script qui permet de les
convertir au format
20/04/2023
101
Filtrage étendu
Le langage AWK

102
Introduction
● awk est une commande très puissante, c'est un langage de
programmation à elle toute seule
● awk rend possible des actions plus complexes encore que
celles rendues possibles par sed, y compris des
opérations mathématiques, ou des séquences logiques
complètes.
● Si la fonction principale de sed est de remplacer des
sous-chaînes, awk est le plus souvent utilisée pour
extraire des données depuis les fichiers.
● La dénomination AWK vient des initiales de ses trois
créateurs, Alfred Aho, Peter Weinberger et Brian
Kernighan. Ce dernier est l’un des inventeurs du langage
103
C, d’où une grande similarité dans la syntaxe.
Introduction (suite)

● Les fonctionnalités standards de Awk sont décrites dans


la norme, ce qui leur confère une bonne portabilité entre
les différentes versions d’Unix.
● Il existe des dérivations de awk améliorées, ou
spécifiques à un environnement déterminé comme gawk,
nawk, mawk, jawk… et autres
● Awk peut faire des opérations par ligne (considérée comme
un ensemble de champs $1, $2… NF avec espace comme
séparateur par défaut) mais aussi des opérations sur
l’ensemble du fichier (considéré comme un ensemble
d’enregistrements) 104
Fonctionnement
● Le principe général de Awk est le même que celui de Sed :
○ lecture des lignes de texte sur l’entrée standard,
○ traitement en fonction d’instructions regroupées sur la ligne de
commande ou dans un fichier externe,
○ écriture des résultats sur la sortie standard.
● Syntaxe : awk [-F separ] [-v variable] [-f fichier_awk] 'commande' fichier_données
● Une commande pour awk se présente sous la forme :
○ motif { action }
○ où l’action est appliquée à chaque ligne d’entrée qui correspond au motif.
● Un programme awk peut être une seule commande ou plusieurs
qu’on met généralement dans un fichier à part (fichier de
programme awk)
105
Enregistrements et champs
● On considère que le fichier d’entrée est constitué d’une suite
d’enregistrements, eux-mêmes composés de plusieurs champs. Par
défaut, les enregistrements correspondent aux
lignes du fichier d’entrée, séparés donc par un caractère de
saut de ligne, mais on peut modifier ce séparateur pour lire
des fichiers organisés différemment. La variable spéciale RS
(Record Separator) décrit la séparation entre les
enregistrements:
○ lorsque RS est vide, la séparation se fait sur des lignes blanches
○ lorsque RS contient un seul caractère, celui-ci sert de séparateur
d’enregistrements ; par défaut c’est le saut de ligne
○ lorsque RS contient plusieurs caractères, sa valeur est considérée comme
une expression rationnelle décrivant les séparations. on peut donc avoir106
plusieurs séparateurs d’enregistrement pour le même fichier
Les champs (suite)

● Par défaut, les champs sont séparés par des caractères


blancs (espaces et tabulations)
● Le séparateur peut être modifié en ligne de commande par
l’option -F ou dans le programme awk par la variable FS
(Fields Separator)
○ si FS est vide, chaque caractère est considéré comme un champ
indépendant
○ si FS contient un seul caractère, il est considéré comme étant un
séparateur de champs
○ si FS contient plusieurs caractères, il est interprété comme
expression rationnelle

107
Les champs

● Lorsque l’interpréteur awk reçoit un enregistrement, il


le découpe automatiquement en champs. L’enregistrement
lui-même est représenté par la variable spéciale $0 . Les
champs sont disponibles dans les variables $1, $2, $3 ...
● Le nombre de champs détectés est disponible dans la
variable NF
● On peut accéder directement au dernier champ avec
l’expression $NF, à l’avant dernier avec $(NF-1) ...
○ awk -F ';' '{print $NF }' ~/notes.csv
○ awk -F ';' '$NF < 10 {print $(NF-1) }' ~/notes.csv

108
Syntaxe des motifs
● Les motifs avec lesquels les lignes sont comparées
ressemblent un peu aux sélections déjà rencontrées avec
Sed, mais offrent plus de possibilités
● Le motif peut être :
○ une expression rationnelle :
■ /expression régulière/ (équivalent à $0 ~ /expression régulière/)
■ expression ~ /expression régulière/
■ expression !~ /expression régulière/
○ une expression de comparaison: <, <=, == , !=, >=, >
○ une combinaison des deux (à l'aide des opérateurs logiques || ou, && et,
! négation)
○ une expression BEGIN ou END

109
Syntaxe des motifs (suite)
● Le motif peut être aussi :
○ une série de lignes caractérisées par deux motifs
■ motif1,motif2 : chaque ligne entre la première ligne
correspondant au motif1 et la première ligne correspondant au
motif2
○ Une condition motif1 ? motif2 : motif3
○ Une chaîne vide. L’action sera alore appliquée à toutes les lignes.
● La ligne BEGIN est très utile pour l’initialisation de
awk , notamment quand il s’agit d’initialiser des
variables requises pour l’exécution du programme.
● La ligne END sert généralement à faire un calcule cumulé
sur des variables obtenues lors du traitement des
différentes lignes, et pour afficher un message ou un 110
résultat à l’utilisateur
Syntaxe des motifs (exemples)

$ awk '/root/ {print $0}' /etc/passwd


○ # afficher toutes les lignes qui contiennent le texte “root”
$ awk '$1 ~ /root/' /etc/passwd
○ # afficher les lignes qui contiennent “root” dans le premier champs
$ awk 'BEGIN { print "Vérification du fichier /etc/passwd
pour ...";
print "- les utilisateurs avec UID = 0 " ;
print "- les utilisateurs avec UID >= 1000" ;FS=":"}
$3 == 0 { print "UID 0 ligne "NR" :\n"$1 }
$3 >= 1000 { print "UID >= 1000 ligne "NR" :\n"$1 }
END { print "Fin" }' /etc/passwd 111
○ # affiche les utilisateurs dont le UID = à 0 ou >= à 1000
Syntaxe des motifs (exemples, suite)

$ awk '/sync/ , /news/ {print NR" : " $0 }' /etc/passwd


○ # affiche la ligne qui contient “sync” et celles qui la suivent
jusqu’à celle qui contient “news” (sinon jusqu’à la fin du fichier)
$ awk 'NR==5 , NR==10 {print NR" : " $0 }' /etc/passwd
○ # affiche les lignes entre 5 et 10
$ awk -F ';' '$3 !~ /^[0-9]+$/ {print "Le champs 3 de la
ligne "NR" n’est pas numérique\n"$0 }'
○ # affiche les lignes qui contiennent un champs numéro 3 non
numérique, en utilisant le séparateur “;”

112
Les actions

● Les actions sont regroupées entre accolades, et séparées


par des points-virgules et/ou des sauts de ligne
● L’action par défaut (si on ne spécifie pas d’action)
c’est d’afficher toute la ligne sur la sortie standard.
○ awk 'NR == 5 , NR == 10' /etc/passwd
● Dans l’action, on peut aussi faire appel à :
○ fonctions prédéfinies, numériques ou chaine de caractères
○ contrôles (conditions, boucles …)
○ calculs arithmétiques et affectations

113
Les variables

● Une variable est utilisable dès le moment qu’elle est


affectée par une valeur
○ {var=valeur; print var}
● On peut affecter de la même manière les éléments d’un
tableau, sans besoin d’allocation de la taille et on peut
affecter des valeurs de différents types aux différentes
éléments du même tableau.
○ {tab[1]=15; tab[2]=”bonjour”; print tab[1] tab[2]}
○ {tab[“un”]=15; tab[“salut”]=”bonjour”; print tab[“un”] tab[“salut”]}

114
Fonctions numériques
Nom des fonctions signification

atan2(y,x) arctangente de x/y en radians dans l'interval -pi pi

cos(x) cosinus (en radians)

exp(x) exponentielle e à la puissance x

int(x) valeur entière

log(x) logarithme naturel

rand() nombre aléatoire entre 0 et 1

sin(x) sinus (en radians)

sqrt(x) racine carrée

srand(x) réinitialiser le générateur de nombre aléatoire


115
Fonctions sur les chaînes de caractères

Nom des fonctions signification

gsub(r,s,t) sur la chaîne t, remplace toutes les occurrences de r par s

index(s,t) retourne la position la plus à gauche de la chaîne t dans la chaîne s

length(s) retourne la longueur de la chaîne s

split(s,a,fs) split s dans le tableau a sur fs, retourne le nombre de champs

sprintf(fmt,liste expressions) retourne la liste des expressions formatées suivant fmt

sub(r,s,t) comme gsub, mais remplace uniquement la première occurrence

substr(s,i,n) retourne la sous chaîne de s commençant en i et de taille n

116
1. En prenant un fichier
html en entrée, nous
souhaitons afficher
seulement les textes

TP/TD 10
inclus entre <p> et
</p> (Maj ou min)
2. Ecrire un script awk
qui permet de calculer
le pourcentage du CPU
utilisé par un
utilisateur donné (en
se basant sur ps aux)

117
AWK (suite)

118
AWK: variables prédéfinies

● Variables prédéfinies :
○ FS : séparateur de champ traité
○ RS : séparateur d’enregistrement
○ OFS :séparateur de champ en sortie
○ ORS :séparateur d’enregistrement en sortie
○ NF : nombre de champs dans l’enregistrement courant
○ NR : nombre total d’enregistrements lus dans tous les fichiers de
données
○ FNR : nombre d’enregistrements lus dans le fichier de données
courant, en comptant l’enregistrement courant
○ FILENAME :nom du fichier en cours de traitement
○ ARGC : nombre d’arguments de la commande
○ ARGV : tableau contenant les arguments de la commande Awk
119
Structures de contrôle (if)
● Syntaxe : if (condition) instruction1 else instruction2
● Si on a plusieurs instructions on les met entre accolades
● Exemple :

cat /etc/passwd | awk ’BEGIN { print "test de l absence de mot de passe";


FS=":"}

NF==7 { #pour toutes les lignes contenant 7 champs

if ($2=="") # si le deuxième champ est vide

{ print $1 " n a pas de mot de passe"}

else { print $1 " a un mot de passe"} }

END { print ("C est fini")} ’ 120


Structures de contrôle (while et do..while)

● Syntaxe:
while (condition)
{instructions}

do
{
instructions
}
while (condition)

● Exemple :
○ awk 'BEGIN { while (count++<50) string=string "x"; print string }'
○ #crée et affiche une chaîne de 50 fois la lettre x
121
Structures de contrôle (for)
● Syntaxe :
for (initialisation; condition; instruction de comptage)
{
instructions
}

for (clé in Tableau)


{
instructions
}
● Exemple :
○ for (i=1;i<=NF;i++) print "--"$i"--"
○ for (i in ARGV) print "argument " i " : " ARGV[i]

122
Les sauts contrôlés

● Les sauts contrôlés permettent d'interrompre un


traitement.
● Sauts de boucles :
○ break : permet de sortir de la boucle en cours,
○ continue : permet de passer à l’itération suivante de la boucle (Les
instructions après continue ne seront pas prises en compte).
Cependant le nouveau passage se fera si et seulement si la condition
est remplie.
● Sauts du programme :
○ next : arrête le traitement de l'enregistrement en cours et il passe
au suivant.
○ exit : permet l'arrêt complet des traitements. Awk exécute tout de
même le bloc END. 123
1. Ecrire un script awk qui
permet de numéroter toutes
les lignes d’un script
shell, sauf si elles sont
commentées ou vides

TP/TD 10
2. Ecrire un script awk qui
permet d’inverser les lignes
d’un petit fichier
suite 3. Écrire un script awk qui
permet de réécrire le
fichier notes.csv en
remplaçant la notation sur
20 par une notation sur 10.
124
1. Dans un corpus de textes en
Français, afficher la
première phrase qui contient
le mot “il”.
2. Dans un corpus de textes en

TP/TD 10 Français, calculer le nombre


d’apparitions du mot “il”
peu importe la casse.
suite 3. Dans un corpus de textes en
Français, calculer la
fréquence de succession de
chaque deux lettres (ou
caractères).
125
1. En utilisant awk et ls,
afficher la taille totale en
Kilo-Octets des fichiers du
répertoire courant.
2. Écrire un script awk qui
supprime tout texte entre

TP/TD 10
parenthèses.
3. Simuler (approximativement)
avec un script awk la commande
suite wc, qui sans option
supplémentaire donne
respectivement le nombre de
lignes, de mots et d'octets du
fichier qui lui est passé en
argument. 126
On dispose de différents fichiers à la
structure identique : une première ligne
non pertinente qui pourra être ignorée,
suivie d'un ensemble de lignes structurées
en 13 champs séparés soit par des espaces,
soit par des tabulations. Voici un exemple
de ligne :

TP/TD 10 str1 int2 int3 int4 int5 int6 int7 int8 int9 int10 int11 int12 int13

Travail à faire: On souhaiterait faire la


suite somme des colonnes de chacun des fichiers
et écrire les résultats obtenus dans un
fichier résultat, au format suivant :

file_i tot2 tot3 tot4 tot5 tot6 tot7 tot8 tot9 tot10 tot11 tot12
tot13

127
Projets

128
● Écrire un script qui
prend en argument un
répertoir local de site
web et effectue les

Projet 1
opérations suivantes :
○ Optimiser les fichiers
CSS en supprimant les
entrées non utilisées
évalué sur la base de : ○ Minifier les fichiers CSS
○ Minifier les fichiers JS
1. la réalisation des
○ Minifier le HTML inclut
objectifs dans les fichiers ayant
2. Utilisation du CPU les extensions : .htm,
3. Utilisation de la RAM .html, .php

129
● Écrire un script qui
prend en argument une

Projet 2
URL et un fichier texte
contenant une liste
d’URLs d’exceptions, et
permet de générer les
évalué sur la base de :
1. la réalisation des différents fichiers
objectifs sitemaps pour ce site.
2. temps d'exécution
3. utilisation du CPU
4. utilisation de la RAM
130
● Vous êtes enseignant et vous
souhaitez réaliser un script
pour évaluer les
projets/travaux rendus par les
étudiants. Ce script doit être
capable de :

Projet 3
○ Évaluer le taux de ressemblance
entre tous les projets dans un
dossier donné en argument,
○ Évaluer les ressemblances même si
Évalué sur la base de : les noms (variable,
1. La réalisation des classes,fichiers,fonctions...) ou
les structures sont différents.
objectifs
○ Évaluer le plagiat sur internet et
2. La qualité de la afficher les liens sources pour
présentation des chaque projet.
résultats. ○ Évaluer le projet et toute sa
hiérarchie même s’il est compressé.
131

Vous aimerez peut-être aussi