3 PL/pgSQL : les bases
PL/pgSQL : les bases

Préambule
- Vous apprendrez :
- à choisir si vous voulez écrire du PL
- à choisir votre langage PL
- les principes généraux des langages PL autres que PL/pgSQL
- les bases de PL/pgSQL
Ce module présente la programmation PL/pgSQL. Il commence par décrire les routines stockées et les différents langages disponibles. Puis il aborde les bases du langage PL/pgSQL, autrement dit :
- comment installer PL/pgSQL dans une base PostgreSQL ;
- comment créer un squelette de fonction ;
- comment déclarer des variables ;
- comment utiliser les instructions de base du langage ;
- comment créer et manipuler des structures ;
- comment passer une valeur de retour de la fonction à l’appelant.
Au menu
- Présentation du PL et des principes
- Présentations de PL/pgSQL et des autres langages PL
- Installation d’un langage PL
- Détails sur PL/pgSQL
Objectifs
- Comprendre les cas d’utilisation d’une routine PL/pgSQL
- Choisir son langage PL en connaissance de cause
- Comprendre la différence entre PL/pgSQL et les autres langages PL
- Écrire une routine simple en PL/pgSQL
- et même plus complexe
Langages PL : introduction
Qu’est-ce qu’un langage PL ?
- PostgreSQL accepte des fonctions et procédures en SQL et C
- utilisables depuis une requête SQL
- PL = Procedural Language
PostgreSQL permet d’écrire des fonctions dans divers langages. Nativement, sont supportées les fonctions en SQL et en C.
PL est l’acronyme de Procedural Languages. En dehors du C et du SQL, tous les langages acceptés par PostgreSQL sont des PL.
Une fois en place, une fonction peut être appelée depuis une requête SQL, ou une autre fonction SQL ou PL/pgSQL. Le langage utilisé est totalement transparent pour l’utilisateur.
Quels langages PL sont disponibles ?
- Installé par défaut :
- PL/pgSQL
- Intégrés au projet :
- PL/Perl
- PL/Python
- PL/Tcl
- Extensions tierces :
- PL/java, PL/R, PL/v8 (JavaScript), PL/R, PL/sh…
- extensible à volonté
Les quatre langages PL supportés nativement (en plus du C et du SQL bien sûr) sont décrits en détail dans la documentation officielle :
- PL/pgSQL est intégré par défaut dans toute nouvelle base (de par sa présence dans la base modèle template1) ;
- PL/Tcl ;
- PL/Perl ;
- PL/Python.
D’autres langages PL sont accessibles en tant qu’extensions tierces. Ils réclament généralement d’installer les bibliothèques du langage sur le serveur. Souvent il suffit d’installer des paquets fournis par le PGDG.
Une liste plus large est par ailleurs disponible sur le wiki PostgreSQL, à des stades divers de fiabilité. Il en ressort qu’une vingtaine de langages sont disponibles, dont dix installables en production, même s’il faut vérifier que le langage reste bien maintenu. Les plus connus sont PL/Java ou PL/R. S’ajoutent aussi PL/Rust, JavaScript (PLV8), PL/Haskell, ou n’importe quel langage shell (via PL/sh).
De plus, il est possible d’en ajouter d’autres, comme décrit dans la documentation.
Langages trusted vs untrusted
- Trusted = langage de confiance :
- ne permet que l’accès à la base de données
- pas aux fichiers, réseau, etc.
- SQL, PL/pgSQL, PL/Perl, PL/Tcl
- Untrusted:
- PL/Python, C, PL/TclU, PL/PerlU
- potentiellement dangereux !
Les langages trusted (« de confiance ») ne peuvent accéder qu’aux données de la base de la session en cours. Ils ne peuvent pas accéder aux autres bases, aux systèmes de fichiers, au réseau, réaliser certaines opérations comme fork, etc. Ils ne peuvent donc pas compromettre le système, mais de ce fait, ils sont bridés dans leurs possibilités. PL/pgSQL et SQL sont des exemples typiques.
La plupart des autres langages sont untrusted, n’ont pas ces limites et sont donc potentiellement dangereux. Certains sont même très dangereux par ce qu’ils permettent de faire (PL/sh). Certains langages sont disponibles en version complète untrusted, et en version bridée trusted (comme pl/Perl et pl/PerlU, ou Rust).
Seuls les superutilisateurs peuvent créer une routine dans un langage untrusted. Par contre, ils peuvent ensuite donner les droits d’exécution à ces routines aux autres rôles de l’instance :
Rappelons qu’un superutilisateur a autant de droits sur le serveur que l’utilisateur système postgres. Donner à un utilisateur les droits sur une telle fonction ne se fait pas à la légère. Il faut être sûr que l’utilisateur ne peut détourner la fonction pour des buts malveillants.
Les langages PL de PostgreSQL
Les langages PL fournissent :
- des fonctionnalités procédurales dans un univers relationnel
- les fonctionnalités avancées du langage PL choisi
- les librairies associées
- des performances supérieures au code côté client
- latence
- indexation
La question se pose souvent de placer la logique applicative du côté de la base, dans un langage PL, ou des clients. La tendance, ces dernières années, est de coder intégralement la logique du côté client. Mais il peut y avoir de nombreuses raisons en faveur de la première option.
Centralisation du code :
Simplifier et centraliser des traitements clients directement dans la base est l’argument le plus fréquent. Par exemple, une insertion complexe dans plusieurs tables, avec la génération et la récupération d’identifiants pour lier entre elles des tables, peut évidemment être écrite côté client. Il est quelquefois plus pratique de l’écrire sous forme d’une routine PL. Si plusieurs applications ont potentiellement besoin d’opérer un même traitement, à fortiori dans des langages différents, porter cette logique dans la base réduit d’autant les risques de bugs et facilite la maintenance.
Une règle peut être que tout ce qui a trait à l’intégrité des données devrait être exécuté au niveau de la base.
Performances :
Le code s’exécute localement, directement dans le moteur de la base. Il n’y a donc pas tous les changements de contexte et échanges de messages réseaux dus à l’exécution de nombreux ordres SQL consécutifs.
L’impact de la latence due au trafic réseau entre la base au client est souvent sous-estimé !
Les langages PL permettent aussi d’accéder à leurs bibliothèques spécifiques (extrêmement nombreuses en python ou perl, entre autres).
Une fonction en PL peut également servir à l’indexation des données. Cela est impossible si elle se calcule sur une autre machine.
Simplicité :
Suivant le besoin, un langage PL peut être bien plus pratique que le langage client.
Il est par exemple très simple d’écrire un traitement d’insertion/mise à jour en PL/pgSQL, le langage étant créé pour simplifier ce genre de traitements, et la gestion des exceptions pouvant s’y produire.
PL/Perl et PL/Python sont bien plus évolués que PL/PgSQL. Par exemple, ils sont bien plus efficaces en matière de traitement de chaînes de caractères, possèdent des structures avancées comme des tables de hachage, permettent l’utilisation de variables statiques pour maintenir des caches, voire, pour leur version untrusted, peuvent effectuer des appels systèmes. Dans ce cas, il devient possible d’appeler un service web par exemple, ou d’écrire des données dans un fichier externe.
Il existe des langages PL spécialisés. Le plus emblématique d’entre eux est PL/R. R est un langage utilisé par les statisticiens pour manipuler de gros jeux de données. PL/R permet donc d’effectuer ces traitements R directement en base, traitements qui seraient très pénibles à écrire dans d’autres langages, et avec une latence dans le transfert des données. Un autre intérêt est de réutiliser des fonctions existantes, que ce soit des librairies du langage ou des développements exécutés auparavant sur un poste client. PL/Python possède aussi de nombreuses librairies mathématiques et statistiques.
Un autre langage (pas PL à proprement parler) est, du moins sur le papier, plus rapide que tous les langages cités précédemment : le C. Des procédures stockées en C peuvent être compilées à l’extérieur de PostgreSQL, en respectant un certain formalisme, puis chargées en indiquant la bibliothèque C qui les contient et leurs paramètres et types de retour.
Mais attention : toute erreur dans le code C est susceptible d’accéder à toute la mémoire visible par le processus PostgreSQL qui l’exécute, et donc de corrompre les données. Il est donc conseillé de n’utiliser le C qu’en dernier recours.
La grande variété des différents langages PL supportés par PostgreSQL permet normalement d’en trouver un correspondant aux besoins et aux langages déjà maîtrisés dans l’entreprise.
Intérêts de PL/pgSQL en particulier
- Dédié au traitement des données et au SQL
- Maniement direct des données
- Ajout de structures de contrôle au langage SQL
- Traitements complexes, transactions
- Hérite de tous les types, fonctions et opérateurs définis par les utilisateurs
- Trusted
- Facile à utiliser
- Mais assez pauvre
Le langage étant assez ancien, proche du Pascal et de l’ADA, sa syntaxe ne choquera personne. Elle est d’ailleurs très proche de celle du PLSQL d’Oracle.
Les gros atouts de PL/pgSQL est son intégration au SQL, et son intégration à la base de données. PL/pgSQL permet d’écrire des requêtes SQL directement dans le code PL sans déclaration préalable, sans appel à des méthodes complexes, ni rien de cette sorte. Le code SQL est mélangé naturellement au code PL, et on a donc un sur-ensemble procédural de SQL. Les curseurs sont totalement optionnels.
À l’inverse, le gros défaut commun de tous les autres langages est qu’ils ont besoin de fonctions supplémentaires pour accéder à la base de données. L’accès aux données est donc assez fastidieux au niveau syntaxique comparé à PL/pgSQL.
PL/pgSQL étant intégré à PostgreSQL, il hérite de tous les types déclarés dans le moteur, même ceux rajoutés par l’utilisateur. Il peut les manipuler de façon transparente. Là encore, les autres langages peuvent poser problème à cause de différences de types.
Un autre atout du PL/pgSQL (et du C et du SQL) est l’absence d’interpréteur externe à lancer, au contraire de python, Java, etc.
PL/pgSQL possède les structures de contrôle habituelles comme IF… THEN… END IF, ou les boucles LOOP…END LOOP, y compris les boucles directement sur un ensemble de résultat.
PL/pgSQL dispose d’une gestion des erreurs évoluée (gestion d’exceptions).
Les procédures PL/pgSQL (pas les fonctions) permettent de gérer des transactions.
PL/pgSQL est trusted. Par défaut, tous les utilisateurs peuvent donc créer des routines dans ce langage. Vous pouvez toujours soit supprimer le langage dans la base, soit retirer les droits à un utilisateur sur ce langage (via la commande SQL REVOKE).
PL/pgSQL est donc raisonnablement facile à utiliser : il y a peu de complications et peu de pièges. Par contre, le langage peut sembler pauvre pour des gens habitués aux langages plus récents. Il n’y a pas non plus beaucoup de librairies de fonctions à utiliser. Les autres langages et les diverses extensions comblent cependant ces lacunes.
Routines / Procédures stockées / Fonctions
- Procédure stockée
- pas de retour
- contrôle transactionnel :
COMMIT/ROLLBACK
- Fonction
- peut renvoyer des données (même des lignes)
- utilisable dans un
SELECT - peut être de type
TRIGGER, agrégat, fenêtrage
- Routine
- procédure ou fonction
Les programmes écrits à l’aide des langages PL sont habituellement enregistrés sous forme de « routines » :
- procédures ;
- fonctions ;
- fonctions trigger ;
- fonctions d’agrégat ;
- fonctions de fenêtrage (window functions).
Le code source de ces objets est stocké dans la table pg_proc du catalogue.
Les procédures, apparues avec PostgreSQL 11, sont très similaires aux fonctions. Les principales différences entre les deux sont :
- Les fonctions doivent déclarer des arguments en sortie (
RETURNSou argumentsOUT). Elles peuvent renvoyer n’importe quel type de donnée, ou des ensembles de lignes. Il est possible d’utiliservoidpour une fonction sans argument de sortie ; c’était d’ailleurs la méthode utilisée pour émuler le comportement d’une procédure avant leur introduction avec PostgreSQL 11. Les procédures n’ont pas de code retour (on peut cependant utiliser des paramètresOUTouINOUT). - Les procédures offrent le support du contrôle transactionnel, c’est-à-dire la capacité de valider (
COMMIT) ou annuler (ROLLBACK) les modifications effectuées jusqu’à ce point par la procédure. L’intégralité d’une fonction s’effectue dans la transaction appelante. - Les procédures sont appelées exclusivement par la commande SQL
CALL; les fonctions peuvent être appelées dans la plupart des ordres DML/DQL (notammentSELECT), mais pas parCALL. - Les fonctions peuvent être déclarées de telle manière qu’elles peuvent être utilisées dans des rôles spécifiques (trigger, agrégat ou fonction de fenêtrage).
Installation d’un langage PL
Installation des binaires nécessaires
- SQL, C et PL/pgSQL
- compilés et installés par défaut
- Paquets du PGDG pour la plupart des langages :
- Autres langages :
- à compiler soi-même
Pour savoir si PL/Perl ou PL/Python a été compilé, on peut demander à pg_config :
Si besoin, les emplacements exacts d’installation des bibliothèques peuvent être récupérés à l’aide des options --libdir et --pkglibdir de pg_config.
Cependant, dans les paquets fournis par le PGDG, il faudra installer explicitement le paquet dédié à plperl pour la version majeure de PostgreSQL concernée. Pour PostgreSQL 16, les paquets sont postgresql16-plperl (depuis yum.postgresql.org) ou postgresql-plperl-16 (depuis apt.postgresql.org). De même pour Python 3 (paquets postgresql14-plpython3 ou postgresql-plython3-14).
Les bibliothèques plperl.so, plpython3.so ou plpgsql.so contiennent les fonctions qui permettent l’utilisation de chaque langage. La bibliothèque nécessaire est chargée par le moteur à la première utilisation d’une procédure utilisant ce langage.
La plupart des langages intéressants sont disponibles sous forme de paquets. Des versions très récentes, ou des langages plus exotiques, peuvent nécessiter une compilation de l’extension.
Activer un langage
Activer un langage passe par la création de l’extension :
- Liste :
\dLoupg_language
Le langage est activé uniquement dans la base dans laquelle la commande est lancée. Il faudra donc répéter le CREATE EXTENSION dans chaque base au besoin (noter qu’activer un langage dans la base modèle template1 l’activera aussi pour toutes les bases créées par la suite, comme c’est déjà le cas pour le PL/pgSQL).
Pour voir les langages activés, utiliser la commande \dL qui reprend le contenu de la table système pg_language :
Noter la distinction entre les langages trusted (de confiance) et untrusted. Si un langage est trusted, tous les utilisateurs peuvent créer des procédures dans ce langage sans danger. Sinon seuls les superutilisateurs le peuvent.
Il existe par exemple deux variantes de PL/Perl : PL/Perl et PL/PerlU. La seconde est la variante untrusted et est un Perl « complet ». La version trusted n’a pas le droit d’ouvrir des fichiers, des sockets, ou autres appels systèmes qui seraient dangereux.
SQL, PL/pgSQL, PL/Tcl, PL/Perl (mais pas PL/Python) sont trusted et les utilisateurs peuvent les utiliser à volonté.
C, PL/TclU, PL/PerlU, et PL/Python3U sont untrusted. Un superutilisateur doit alors écrire les fonctions et procédures et opérer des GRANT EXECUTE aux utilisateurs.
Exemples de fonctions & procédures
Fonction PL/pgSQL simple
Une fonction simple en PL/pgSQL :
Exemple de fonction SQL
Même fonction en SQL pur :
- Intérêt : inlining & planification
- Syntaxe allégée :
Les fonctions simples peuvent être écrites en SQL pur. La syntaxe est plus claire, mais bien plus limitée qu’en PL/pgSQL (ni boucles, ni conditions, ni exceptions notamment).
Toujours pour les fonctions en SQL uniquement, il est possible de se passer des guillemets encadrants. La même fonction devient donc :
Cette nouvelle écriture respecte mieux le standard SQL. Surtout, elle autorise un parsing et une vérification des objets impliqués dès la déclaration, et non à l’utilisation.
Les dépendances entre fonctions et objets utilisés sont aussi mieux tracées.
L’avantage principal des fonctions en pur SQL est, si elles sont assez simples, leur intégration lors de la réécriture interne de la requête (inlining) : elles ne sont donc pas pour l’optimiseur des « boîtes noires ». À l’inverse, l’optimiseur ne sait rien du contenu d’une fonction PL/pgSQL.
Dans l’exemple suivant, la fonction sert de filtre à la requête. Comme elle est en pur SQL, elle permet d’utiliser l’index sur la colonne date_embauche de la table employes_big :
Avec une version de la même fonction en PL/pgSQL, le planificateur ne voit pas le critère indexé. Il n’a pas d’autre choix que de lire toute la table et d’appeler la fonction pour chaque ligne, ce qui est bien sûr plus lent :
Le wiki décrit les conditions pour que l’inlining des fonctions SQL fonctionne : obligation d’un seul SELECT, interdiction de certains fonctionnalités…
Exemple de fonction PL/pgSQL utilisant la base
Dans cet exemple, on récupère l’estimation du nombre de lignes actives d’une table passée en paramètres.
L’intérêt majeur du PL/pgSQL et du SQL sur les autres langages est la facilité d’accès aux données. Ici, un simple SELECT <champ> INTO <variable> suffit à récupérer une valeur depuis une table dans une variable.
Exemple de fonction PL/Perl complexe
- Permet d’insérer une facture associée à un client
- Si le client n’existe pas, une entrée est créée
- Utilisation fréquente de
spi_exec
Voici l’exemple de la fonction :
Cette fonction n’est pas parfaite, elle ne protège pas de tout. Il est tout à fait possible d’avoir une insertion concurrente entre le SELECT et le INSERT par exemple.
Il est clair que l’accès aux données est malaisé en PL/Perl, comme dans la plupart des langages, puisqu’ils ne sont pas prévus spécifiquement pour cette tâche. Par contre, on dispose de toute la puissance de Perl pour les traitements de chaîne, les appels système…
PL/Perl, c’est :
- Perl, moins les fonctions pouvant accéder à autre chose qu’à PostgreSQL (il faut utiliser PL/PerlU pour passer outre cette limitation) ;
- un bloc de code anonyme appelé par PostgreSQL ;
- des fonctions d’accès à la base,
spi_*
Exemple de fonction PL/pgSQL complexe
- Même fonction en PL/pgSQL que précédemment
- L’accès aux données est simple et naturel
- Les types de données SQL sont natifs
- La capacité de traitement est limitée par le langage
- Attention au nommage des variables et paramètres
Pour éviter les conflits avec les objets de la base, il est conseillé de préfixer les variables.
Exemple de procédure
Cette procédure tronque des tables de la base d’exemple pgbench, et annule si dry_run est vrai.
Les procédures sont à utiliser quand on n’attend pas de résultat en retour. Surtout, elles permettent de gérer les transactions (COMMIT, ROLLBACK), ce qui ne peut se faire dans des fonctions, même si celles-ci peuvent modifier les données.
Une procédure ne peut utiliser le contrôle transactionnel que si elle est appelée en dehors de toute transaction.
Comme pour les fonctions, il est possible d’utiliser le SQL pur dans les cas les plus simples, sans contrôle transactionnel notamment :
Toujours pour les procédures en SQL, il existe une variante sans guillemets, mais qui ne supporte pas tous les ordres. Comme pour les fonctions, l’intérêt est la prise en compte des dépendances entre objets et procédures.
Exemple de bloc anonyme en PL/pgSQL
- Bloc procédural anonyme en PL/pgSQL :
Les blocs anonymes sont utiles pour des petits scripts ponctuels qui nécessitent des boucles ou du conditionnel, voire du transactionnel, sans avoir à créer une fonction ou une procédure. Ils ne renvoient rien. Ils sont habituellement en PL/pgSQL mais tout langage procédural installé est possible.
L’exemple ci-dessus lance un ANALYZE sur toutes les tables où les statistiques n’ont pas été calculées d’après la vue système, et donne aussi un exemple de SQL dynamique. Le résultat est par exemple :
(Pour ce genre de SQL dynamique, si l’on est sous psql , il est souvent plus pratique d’utiliser \gexec.)
Noter que les ordres constituent une transaction unique, à moins de rajouter des COMMIT ou ROLLBACK explicitement (ce n’est autorisé qu’à partir de la version 11).
Utiliser une fonction ou une procédure
Invocation d’une fonction ou procédure
- Appeler une procédure : ordre spécifique
CALL
- Appeler une fonction : dans une requête
Demander l’exécution d’une procédure se fait en utilisant un ordre SQL spécifique : CALL. Il suffit de fournir les paramètres. Il n’y a pas de code retour.
Les fonctions ne sont quant à elles pas directement compatibles avec la commande CALL, il faut les invoquer dans le contexte d’une commande SQL. Elles sont le plus couramment appelées depuis des commandes de type DML (SELECT, INSERT, etc.), mais on peut aussi les trouver dans d’autres commandes.
Voici quelques exemples :
- dans un
SELECT(la fonction ne doit renvoyer qu’une seule ligne) :
- dans un
SELECT, en passant en argument les valeurs d’une colonne d’une table :
- dans le
FROMd’unSELECT, la fonction renvoit ici généralement plusieurs lignes (SETOF), et un résultat de typeRECORD:
- dans un
INSERTpour générer la valeur à insérer :
- dans une création d’index (index fonctionnel, la fonction sera réellement appelée lors des mises à jour de l’index… attention la fonction doit être déclarée « immutable ») :
- appel d’une fonction en paramètre d’une autre fonction ou d’une procédure, par exemple ici le résultat de la fonction
ma_fonction()(qui doit renvoyer une seule ligne) est passé en argument d’entrée de la procédurema_procedure():
Par ailleurs, certaines fonctions sont spécialisées et ne peuvent être invoquées que dans le contexte pour lequel elles ont été conçues (fonctions trigger, d’agrégat, de fenêtrage, etc.).
Contrôle transactionnel dans les procédures
COMMITetROLLBACK: possibles dans les procédures- Pas de
BEGIN- automatique après la fin d’une transaction dans le code
- Un seul niveau de transaction
- pas de sous-transactions
- pas d’appel depuis une transaction
- Incompatible avec une clause
EXCEPTION
Une procédure peut contenir des ordres COMMIT ou ROLLBACK pour du contrôle transactionnel. (À l’inverse une fonction est une transaction unique, ou opère dans une transaction.)
Voici un exemple validant ou annulant une insertion suivant que le nombre est pair ou impair :
Une exemple plus fréquemment utilisé est celui d’une procédure effectuant un traitement de modification des données par lots, et donc faisant un COMMIT à intervalle régulier.
Noter qu’il n’y a pas de BEGIN explicite dans la gestion des transactions. Après un COMMIT ou un ROLLBACK, un BEGIN est immédiatement exécuté.
On ne peut pas imbriquer des transactions, car PostgreSQL ne connaît pas les sous-transactions :
On ne peut pas utiliser en même temps une clause EXCEPTION et le contrôle transactionnel :
Création et maintenance des fonctions et procédures
Création
CREATE FUNCTIONCREATE PROCEDURE
Voici la syntaxe complète pour une fonction d’après la documentation :
Voici la syntaxe complète pour une procédure d’après la documentation :
Noter qu’il n’y a pas de langage par défaut. Il est donc nécessaire de le spécifier à chaque création d’une routine comme dans les exemples ci-dessous.
Structure d’une routine PL/pgSQL
- Reprenons le code montré plus haut :
Le langage PL/pgSQL n’est pas sensible à la casse, tout comme SQL (sauf les noms des objets ou variables, si vous les mettez entre des guillemets doubles). L’opérateur de comparaison est =, l’opérateur d’affectation :=
Structure d’une routine PL/pgSQL (suite)
DECLARE- déclaration des variables locales
BEGIN- début du code de la routine
END- la fin
- Instructions séparées par des points-virgules
- Commentaires commençant par
--ou compris entre/*et*/
Une routine est composée d’un bloc de déclaration des variables locales et d’un bloc de code. Le bloc de déclaration commence par le mot clé DECLARE et se termine avec le mot clé BEGIN. Ce mot clé est celui qui débute le bloc de code. La fin est indiquée par le mot clé END.
Toutes les instructions se terminent avec des points-virgules. Attention, DECLARE, BEGIN et END ne sont pas des instructions.
Il est possible d’ajouter des commentaires. -- indique le début d’un commentaire qui se terminera en fin de ligne. Pour être plus précis dans la délimitation, il est aussi possible d’utiliser la notation C : /* est le début d’un commentaire et */ la fin.
Blocs nommés
- Labels de bloc possibles
- Plusieurs blocs d’exception possibles dans une routine
- Permet de préfixer des variables avec le label du bloc
- De donner un label à une boucle itérative
- Et de préciser de quelle boucle on veut sortir, quand plusieurs d’entre elles sont imbriquées
Indiquer le nom d’un label ainsi :
ou bien (pour une boucle)
Bien sûr, il est aussi possible d’utiliser des labels pour des boucles FOR, WHILE, FOREACH.
On sort d’un bloc ou d’une boucle avec la commande EXIT, on peut aussi utiliser CONTINUE pour passer à l’exécution suivante d’une boucle sans terminer l’itération courante.
Par exemple :
Modification du code d’une routine
CREATE OR REPLACE FUNCTIONCREATE OR REPLACE PROCEDURE- Une routine est définie par son nom et ses arguments
- Si type de retour différent, la fonction doit d’abord être supprimée puis recréée
Une routine est surchargeable. La seule façon de les différencier est de prendre en compte les arguments (nombre et type). Les noms des arguments peuvent être indiqués mais ils seront ignorés.
Deux routines identiques aux arguments près (on parle de prototype) ne sont pas identiques, mais bien deux routines distinctes.
CREATE OR REPLACE a principalement pour but de modifier le code d’une routine, mais il est aussi possible de modifier les méta-données.
Modification des méta-données d’une routine
ALTER FUNCTION/ALTER PROCEDURE- Une routine est définie par son nom et ses arguments
- Permet de modifier nom, propriétaire, schéma et autres options
Toutes les méta-données discutées plus haut sont modifiables avec un ALTER.
Suppression d’une routine
- Une routine est définie par son nom et ses arguments :
La suppression se fait avec l’ordre DROP.
Une fonction pouvant exister en plusieurs exemplaires, avec le même nom et des arguments de type différents, il faudra parfois parfois préciser ces derniers.
Utilisation des guillemets
- Les guillemets deviennent très rapidement pénibles
- préférer
$$ - ou
$fonction$,$toto$…
- préférer
Définir une fonction entre guillemets simples (') devient très pénible dès que la fonction doit en contenir parce qu’elle contient elle-même des chaînes de caractères. PostgreSQL permet de remplacer les guillemets par $$, ou tout mot encadré de $.
Par exemple, on peut reprendre la syntaxe de déclaration de la fonction addition() précédente en utilisant cette méthode :
Ce peut être utile aussi dans tout code réalisant une concaténation de chaînes de caractères contenant des guillemets. La syntaxe traditionnelle impose de les multiplier pour les protéger, et le code devient difficile à lire. :
En voilà une simplification grâce aux dollars :
Si vous avez besoin de mettre entre guillemets du texte qui inclut $$, vous pouvez utiliser $Q$, et ainsi de suite. Le plus simple étant de définir un marqueur de fin de routine plus complexe, par exemple incluant le nom de la fonction.
Paramètres et retour des fonctions et procédures
Version minimaliste
Ceci une forme de fonction très simple (et très courante) : deux paramètres en entrée (implicitement en entrée seulement), et une valeur en retour.
Dans le corps de la fonction, il est aussi possible d’utiliser une notation numérotée au lieu des noms de paramètre : le premier argument a pour nom $1, le deuxième $2, etc. C’est à éviter.
Tous les types sont utilisables, y compris les types définis par l’utilisateur. En dehors des types natifs de PostgreSQL, PL/pgSQL ajoute des types de paramètres spécifiques pour faciliter l’écriture des routines.
Paramètres IN, OUT, INOUT & retour
VARIADIC: nombre variable
Si le mode d’un argument est omis, IN est la valeur implicite : la valeur en entrée ne sera pas modifiée par la fonction.
Un paramètre OUT sera modifié. S’il s’agit d’une variable d’un bloc PL appelant, sa valeur sera modifiée. Un paramètre INOUT est un paramètre en entrée qui peut être également modifié.
Dans le corps d’une fonction, RETURN est inutile avec des paramètres OUT parce que c’est la valeur des paramètres OUT à la fin de la fonction qui est retournée, comme dans l’exemple plus bas.
L’option VARIADIC permet de définir une fonction avec un nombre d’arguments libres à condition de respecter le type de l’argument (comme printf en C par exemple). Seul un argument OUT peut suivre un argument VARIADIC : l’argument VARIADIC doit être le dernier de la liste des paramètres en entrée puisque tous les paramètres en entrée suivant seront considérées comme faisant partie du tableau variadic. Seuls les arguments IN et VARIADIC sont utilisables avec une fonction déclarée comme renvoyant une table (clause RETURNS TABLE, voir plus loin).
La clause DEFAULT permet de rendre les paramètres optionnels. Après le premier paramètre ayant une valeur par défaut, tous les paramètres qui suivent doivent aussi avoir une valeur par défaut. Pour rendre le paramètre optionnel, il doit être le dernier argument ou alors les paramètres suivants doivent aussi avoir une valeur par défaut.
Type en retour : 1 valeur simple
- Fonctions uniquement
- Tous les types de base & utilisateur
- Rien :
void
Le type de retour (clause RETURNS dans l’entête) est obligatoire pour les fonctions et interdit pour les procédures.
Des exemples plus haut utilisent des types simples, mais tous ceux de PostgreSQL ou les types créés par l’utilisateur sont utilisables.
Depuis le corps de la fonction, le résultat est renvoyé par un appel à RETURN (PL/pgSQL) ou SELECT (SQL).
Type en retour : 1 ligne, plusieurs champs (exemple)
Comment obtenir ceci ?
Type en retour : 1 ligne, plusieurs champs
3 options :
- Type composé dédié
- Paramètres
OUT
RETURNS TABLE
S’il y a besoin de renvoyer plusieurs valeurs à la fois, une première possibilité est de renvoyer un type composé défini auparavant.
Une alternative très courante est d’utiliser plusieurs paramètres OUT (et pas de clause RETURN dans l’entête) pour obtenir un enregistrement composite :
(Noter que l’exemple ci-dessus est en simple SQL.)
La clause TABLE est une autre alternative, sans doute plus claire. Cet exemple devient alors, toujours en pur SQL :
Retour multiligne
- 1 seul champ ou plusieurs ?
- Ligne à ligne ou en bloc ?
- Le résultat est stocké puis envoyé
RETURNS SETOF :
Pour renvoyer plusieurs lignes, la première possibilité est de déclarer un type de retour SETOF. Cet exemple utilise RETURN NEXT pour renvoyer les lignes une à une :
Renvoyer une structure existante :
S’il y a plusieurs champs à renvoyer, une possibilité est d’utiliser un type dédié (composé), qu’il faudra cependant créer auparavant. L’exemple suivant utilise aussi un RETURN QUERY pour éviter d’itérer sur toutes les lignes du résultat :
Si l’on veut renvoyer une structure correspondant exactement à une table ou vue, la syntaxe est très simple (il n’y a même pas besoin de %ROWTYPE) :
NB : attention de ne pas oublier le SETOF, sinon une seule ligne sera retournée.
RETURNS TABLE :
On a vu que la clause TABLE permet de renvoyer plusieurs champs. Or, elle implique aussi SETOF, et les deux exemples ci-dessus peuvent devenir :
(Noter ici que le nom du champ retourné dépend du nom de la variable utilisée, et n’est pas forcément le nom de la fonction. En effet, chaque appel à RETURN NEXT retourne un enregistrement composé d’une copie de toutes les variables, au moment de l’appel à RETURN NEXT.)
Si RETURNS TABLE est peut-être le plus souple et le plus clair, le choix entre toutes ces méthodes est affaire de goût, ou de compatibilité avec du code ancien ou converti d’un produit concurrent.
Renvoyer le résultat d’une requête :
Les exemples ci-dessus utilisent RETURN NEXT (pour du ligne à ligne) ou RETURN QUERY (pour envoyer directement le résultat d’une requête).
La variante RETURN QUERY EXECUTE … est destinée à des requêtes en SQL dynamique (voir plus loin).
Quand plusieurs lignes sont renvoyées, tout est conservé en mémoire jusqu’à la fin de la fonction. S’il y en a beaucoup, cela peut poser des problèmes de latence, voire de mémoire. Le paramètre
work_mempermet de définir la mémoire utilisée avant de basculer sur un fichier temporaire, qui a bien sûr un impact sur les performances.
Appel de fonction :
En général, l’appel se fait ainsi pour obtenir des lignes :
Une alternative est d’utiliser :
pour récupérer un résultat d’une seule colonne, scalaire, type composite ou RECORD suivant la fonction.
Cette différence concerne aussi les fonctions système :
Gestion des valeurs NULL
Comment gérer les paramètres à NULL ?
STRICT:- 1 paramètre
NULL: retourneNULLimmédiatement
- 1 paramètre
- Défaut :
- gestion par la fonction
Si une fonction est définie comme STRICT et qu’un des arguments d’entrée est NULL, PostgreSQL n’exécute même pas la fonction et utilise NULL comme résultat.
Dans la logique relationnelle, NULL signifie « la valeur est inconnue ». La plupart du temps, il est logique qu’une fonction ayant un paramètre à une valeur inconnue retourne aussi une valeur inconnue, ce qui fait que cette optimisation est très souvent pertinente.
On gagne à la fois en temps d’exécution, mais aussi en simplicité du code (il n’y a pas à gérer les cas NULL pour une fonction dans laquelle NULL ne doit jamais être injecté).
Dans la définition d’une fonction, les options sont STRICT ou son synonyme RETURNS NULL ON NULL INPUT, ou le défaut implicite CALLED ON NULL INPUT.
Variables en PL/pgSQL
Clause DECLARE
- Dans le source, partie
DECLARE:
- Blocs
DECLARE/BEGIN/ENDimbriqués possible- restriction de scope de variable
En PL/pgSQL, pour utiliser une variable dans le corps de la routine (entre le BEGIN et le END), il est obligatoire de l’avoir déclarée précédemment :
- soit dans la liste des arguments (
IN,INOUTouOUT) ; - soit dans la section
DECLARE.
La déclaration doit impérativement préciser le nom et le type de la variable.
En option, il est également possible de préciser :
- sa valeur initiale (si rien n’est précisé, ce sera
NULLpar défaut) :
- sa valeur par défaut, si on veut autre chose que
NULL:
- une contrainte
NOT NULL(dans ce cas, il faut impérativement un défaut différent deNULL, et toute éventuelle affectation ultérieure deNULLà la variable provoquera une erreur) :
- le collationnement à utiliser, pour les variables de type chaîne de caractères :
Pour les fonctions complexes, avec plusieurs niveaux de boucle par exemple, il est possible d’imbriquer les blocs DECLARE/BEGIN/END en y déclarant des variables locales à ce bloc. Si une variable est par erreur utilisée hors du scope prévu, une erreur surviendra.
Constantes
- Clause supplémentaire
CONSTANT:
L’option CONSTANT permet de définir une variable pour laquelle il sera alors impossible d’assigner une valeur dans le reste de la routine.
Types de variables
- Récupérer le type d’une autre variable avec
%TYPE:
- Récupérer le type de la colonne d’une table :
Cela permet d’écrire des routines plus génériques.
Type ROW - 1
- Pour renvoyer plusieurs valeurs à partir d’une fonction
- Utiliser un type composite :
Type ROW - 2
- Utiliser le type composite défini par la ligne d’une table
L’utilisation de %ROWTYPE permet de définir une variable qui contient la structure d’un enregistrement de la table spécifiée. %ROWTYPE n’est pas obligatoire, il est néanmoins préférable d’utiliser cette forme, bien plus portable. En effet, dans PostgreSQL, toute création de table crée un type associé de même nom, le seul nom de la table est donc suffisant.
Type RECORD
RECORDidentique au typeROW- …sauf que son type n’est connu que lors de son affectation
RECORDpeut changer de type au cours de l’exécution de la routine- Curseur et boucle sur une requête
RECORD est beaucoup utilisé pour manipuler des curseurs, ou dans des boucles FOR … LOOP : cela évite de devoir se préoccuper de déclarer un type correspondant exactement aux colonnes de la requête associée à chaque curseur.
Type RECORD : exemple
Dans ces exemples, on récupère la première ligne de la fonction avec SELECT … INTO, puis on ouvre un curseur implicite pour balayer chaque ligne obtenue d’une deuxième table. Le type RECORD permet de ne pas déclarer une nouvelle variable de type ligne.
Exécution de requête dans un bloc PL/pgSQL
Requête dans un bloc PL/pgSQL
- Toutes opérations sur la base de données
- Et calculs, comparaisons, etc.
- Toute expression écrite en PL/pgSQL sera passée à
SELECTpour interprétation par le moteur PREPAREimplicite, avec cache
Par expression, on entend par exemple des choses comme :
Dans ce cas, l’expression myvar > 0 sera préparée par le moteur de la façon suivante :
Puis cette requête préparée sera exécutée en lui passant en paramètre la valeur de myvar et la constante 0.
Si myvar est supérieur à 0, il en sera ensuite de même pour l’instruction suivante :
Comme toute requête préparée, son plan sera mis en cache.
Pour les détails, voir les dessous de PL/pgSQL.
Affectation d’une valeur à une variable
- Utiliser l’opérateur
:=:
- Utiliser
SELECT INTO:
Privilégiez la première écriture pour la lisibilité, la seconde écriture est moins claire et n’apporte rien puisqu’il s’agit ici d’une affectation de constante.
À noter que l’écriture suivante est également possible pour une affectation :
Cette méthode profite du fait que toutes les expressions du code PL/pgSQL vont être passées au moteur SQL de PostgreSQL dans un SELECT pour être résolues. Cela va fonctionner, mais c’est très peu lisible, et donc non recommandé.
Exécution d’une requête
- Affectation de la ligne :
INTO STRICTpour garantir unicitéINTOseul : juste 1è ligne !
Plus d’un enregistrement :
- écrire une boucle
Ordre statique :
- colonnes, clause
WHERE, tables figées
- colonnes, clause
Récupérer une ligne de résultat d’une requête dans une ligne de type ROW ou RECORD se fait avec SELECT … INTO. La première ligne est récupérée. Généralement on préférera utiliser INTO STRICT pour lever une de ces erreurs si la requête renvoie zéro ou plusieurs lignes :
Dans le cas du type ROW, la définition de la ligne doit correspondre parfaitement à la définition de la ligne renvoyée. Utiliser un type RECORD permet d’éviter ce type de problème. La variable obtient directement le type ROW de la ligne renvoyée.
Il est possible d’utiliser SELECT INTO avec une simple variable si l’on n’a qu’un champ d’une ligne à récupérer.
Cette fonction compte les tables, et en trace la liste (les tables ne font pas partie du résultat) :
Exécution d’une requête sans besoin du résultat
PERFORM: résultat ignoré
- Variable
FOUND- si une ligne est affectée par l’instruction
- Nombre de lignes :
On peut déterminer qu’aucune ligne n’a été trouvée par la requête en utilisant la variable FOUND :
Pour appeler une fonction, il suffit d’utiliser PERFORM de la manière suivante :
Pour récupérer le nombre de lignes affectées par l’instruction exécutée, il faut récupérer la variable de diagnostic ROW_COUNT :
Il est à noter que le ROW_COUNT récupéré ainsi s’applique à l’ordre SQL précédent, quel qu’il soit :
PERFORM;EXECUTE;- ou même à un ordre statique directement dans le code PL/pgSQL.
SQL dynamique
EXECUTE d’une requête
- Exécute la requête dans
chaine chainepeut être construite à partir d’autres variablescible: résultat (une seule ligne)
EXECUTE dans un bloc PL/pgSQL permet notamment du SQL dynamique : l’ordre peut être construit dans une variable.
EXECUTE & requête dynamique : injection SQL
Si nom vaut : « 'Robert' ; DROP TABLE eleves ; »
que renvoie ceci ?
Un danger du SQL dynamique est de faire aveuglément confiance aux valeurs des variables en construisant un ordre SQL :
Cet exemple est directement inspiré d’un dessin très connu de XKCD.
Dans la pratique, la variable
nom(entrée ici en dur) proviendra par exemple d’un site web, et donc contient potentiellement des caractères terminant la requête dynamique et en insérant une autre, potentiellement destructrice.
Moins grave, une erreur peut être levée à cause d’une apostrophe (quote) dans une chaîne texte. Il existe effectivement des gens avec une apostrophe dans le nom.
Ce qui suit concerne le SQL dynamique dans des routines PL/pgSQL, mais le principe concerne tous les langages et clients, y compris psql et sa méta-commande \gexec. En SQL pur, la protection contre les injections SQL est un argument pour utiliser les requêtes préparées, dont l’ordre EXECUTE diffère de celui-ci du PL/pgSQL ci-dessous.
EXECUTE & requête dynamique : 3 possibilités
Les trois exemples précédents sont équivalents.
Le premier est le plus simple au premier abord. Il utilise quote_ident et quote_literal pour protéger des injections SQL (voir plus loin).
Le second est plus lisible grâce à la fonction de formatage format qui évite ces concaténations et appelle implicitement les fonctions quote_% Si un paramètre ne peut pas prendre la valeur NULL, utiliser %L (équivalent de quote_nullable) et non %I (équivalent de quote_ident).
La troisième alternative avec USING et les paramètres numériques $1 et $2 est considérée comme la plus performante. (Voir les détails dans la documentation).
L’exemple complet suivant tiré de la documentation officielle utilise EXECUTE pour rafraîchir des vues matérialisées en masse.
EXECUTE & requête dynamique (suite)
STRICT: 1 résultat- sinon
NO_DATA_FOUNDouTOO_MANY_ROWS
- sinon
- Sans
STRICT:- 1ère ligne ou
NO_DATA_FOUND
- 1ère ligne ou
- Nombre de lignes :
GET DIAGNOSTICS integer_var = ROW_COUNT
De la même manière que pour SELECT … INTO, utiliser STRICT permet de garantir qu’il y a exactement une valeur comme résultat de EXECUTE, ou alors une erreur sera levée.
Nous verrons plus loin comment traiter les exceptions.
Outils pour construire une requête dynamique
quote_ident ()- pour mettre entre guillemets un identifiant d’un objet PostgreSQL (table, colonne, etc.)
quote_literal ()- pour mettre entre guillemets une valeur (chaîne de caractères)
quote_nullable ()- pour mettre entre guillemets une valeur (chaîne de caractères), sauf NULL qui sera alors renvoyé sans les guillemets
||: concaténer- Ou fonction
format(…), équivalent desprintfen C
La fonction format est l’équivalent de la fonction sprintf en C : elle formate une chaîne en fonction d’un patron et de valeurs à appliquer à ses paramètres et la retourne. Les types de paramètre reconnus par format sont :
%I: est remplacé par un identifiant d’objet. C’est l’équivalent de la fonctionquote_ident. L’objet en question est entouré de guillemets doubles si nécessaire ;%L: est remplacé par une valeur littérale. C’est l’équivalent de la fonctionquote_literal. Des guillemets simples sont ajoutés à la valeur et celle-ci est correctement échappée si nécessaire ;%s: est remplacé par la valeur donnée sans autre forme de transformation ;%%: est remplacé par un simple%.
Voici un exemple d’utilisation de cette fonction, utilisant des paramètres positionnels :
Structures de contrôle en PL/pgSQL
- But du PL : les traitements procéduraux
Tests conditionnels - 2
Exemple :
Tests conditionnels : CASE
L’instruction CASE WHEN est proche de l’expression CASE des requêtes SQL dans son principe (à part qu’elle se clôt par END en SQL, et END CASE en PL/pgSQL).
Elle est parfois plus légère à lire que des IF imbriqués.
Cet exemple complet en PL/pgSQL utilise une variante de syntaxe qui permet de ne pas répéter le critère :
Boucle LOOP/EXIT/CONTINUE : syntaxe
- Boucle :
LOOP/END LOOP- label possible
- En sortir :
EXIT [label] [WHEN expression_booléenne]
- Commencer une nouvelle itération de la boucle
CONTINUE [label] [WHEN expression_booléenne]
Des boucles simples s’effectuent avec LOOP/END LOOP.
Pour les détails, voir la documentation officielle.
Boucle LOOP/EXIT/CONTINUE : exemple
Cette boucle incrémente le résultat de 1 à chaque itération tant que la valeur du résultat est inférieure à 50. Ensuite, le résultat est incrémenté de 1 à deux reprises pour chaque tour de boucle. On incrémente donc de 2 par tour de boucle. Arrivée à 100, la procédure sort de la boucle.
Boucle WHILE
- Boucle jusqu’à ce que la condition soit fausse
- Label possible
Boucle FOR : syntaxe
variableva obtenir les différentes valeurs entre entier1 et entier2- Label possible
La boucle FOR n’a pas d’originalité par rapport à d’autres langages.
L’option BY permet d’augmenter l’incrémentation :
L’option REVERSE permet de faire défiler les valeurs en ordre inverse :
Boucle FOR … IN … LOOP : parcours de résultat de requête
- Pour boucler dans les lignes résultats d’une requête
lignede typeRECORD,ROW, ou liste de variables séparées par des virgules- Utilise un curseur en interne
- Label possible
Cette syntaxe très pratique permet de parcourir les lignes résultant d’une requête sans avoir besoin de créer et parcourir un curseur. Souvent on utilisera une variable de type ROW ou RECORD (comme dans l’exemple de la fonction rafraichir_vuemat plus haut), mais l’utilisation directe de variables (déclarées préalablement) est possible :
Attention de ne pas utiliser les variables en question hors de la boucle, elles auront gardé la valeur acquise dans la dernière itération.
Boucle FOREACH
- Pour boucler sur les éléments d’un tableau
variableva obtenir les différentes valeurs du tableau retourné parexpressionSLICEpermet de jouer sur le nombre de dimensions du tableau à passer à la variable- Label possible
Voici deux exemples permettant d’illustrer l’utilité de SLICE :
- sans
SLICE:
- avec
SLICE:
et avec SLICE 2, on obtient :
Autres propriétés des fonctions
- Sécurité
- Optimisations
- Parallélisation
Politique de sécurité
SECURITY INVOKER: défautSECURITY DEFINER- « sudo de la base de données »
- potentiellement dangereux
- ne pas laisser à public !
Une fonction SECURITY INVOKER s’exécute avec les droits de l’appelant. C’est le mode par défaut.
Une fonction SECURITY DEFINER s’exécute avec les droits du créateur. Cela permet, au travers d’une fonction, de permettre à un utilisateur d’outrepasser ses droits de façon contrôlée. C’est l’équivalent du sudo d’Unix.
Bien sûr, une fonction
SECURITY DEFINERdoit faire l’objet d’encore plus d’attention qu’une fonction normale. Elle peut facilement constituer un trou béant dans la sécurité de votre base. C’est encore plus important si le propriétaire de la fonction est un superutilisateur, car celui-ci a la possibilité d’accéder aux fichiers de PostgreSQL et au système d’exploitation.
Plusieurs points importants sont à noter pour
SECURITY DEFINER:
Par défaut, toute fonction créée dans public est exécutable par le rôle public. La première chose à faire est donc de révoquer ce droit. Mieux : créer la fonction dans un schéma séparé est recommandé pour gérer plus finalement les accès.
Il faut se protéger des variables de session qui pourraient être utilisées pour modifier le comportement de la fonction, en particulier le search_path (qui pourrait faire pointer vers des tables de même nom dans un autre schéma). Il doit donc impérativement être positionné en dur dans cette fonction (soit d’emblée, avec un
SETen début de fonction, soit en positionnant unSETdans leCREATE FUNCTION) ; et/ou les fonctions doivent préciser systématiquement le schéma dans les appels de tables (SELECT … FROM nomschema.nomtable …).
Exemple d’une fonction en SECURITY DEFINER avec un search path sécurisé :
L’utilisateur lecteur peut bien lire le résultat de la fonction sans accès à la table :
Exemple de fonction laxiste et d’attaque :
Optimisation des fonctions
- Fonctions uniquement
- À destination de l’optimiseur
COST cout_execution- coût estimé pour l’exécution de la fonction
ROWS nb_lignes_resultat- nombre estimé de lignes que la fonction renvoie
COST est un coût représenté en unité de cpu_operator_cost (100 par défaut).
ROWS vaut par défaut 1000 pour les fonctions SETOF ou TABLE, et 1 pour les autres.
Ces deux paramètres ne modifient pas le comportement de la fonction. Ils ne servent que pour aider l’optimiseur de requête à estimer le coût d’appel à la fonction, afin de savoir, si plusieurs plans sont possibles, lequel est le moins coûteux par rapport au nombre d’appels de la fonction et au nombre d’enregistrements qu’elle retourne.
Parallélisation
- Fonctions uniquement
- La fonction peut-elle être exécutée en parallèle ?
PARALLEL UNSAFE(défaut)PARALLEL RESTRICTEDPARALLEL SAFE
PARALLEL UNSAFE indique que la fonction ne peut pas être exécutée dans le mode parallèle. La présence d’une fonction de ce type dans une requête SQL force un plan d’exécution en série. C’est la valeur par défaut.
Une fonction est non parallélisable si elle modifie l’état d’une base ou si elle fait des changements sur la transaction.
PARALLEL RESTRICTED indique que la fonction peut être exécutée en mode parallèle mais l’exécution est restreinte au processus principal d’exécution.
Une fonction peut être déclarée comme restreinte si elle accède aux tables temporaires, à l’état de connexion des clients, aux curseurs, aux requêtes préparées.
PARALLEL SAFE indique que la fonction s’exécute correctement dans le mode parallèle sans restriction.
En général, si une fonction est marquée sûre ou restreinte à la parallélisation alors qu’elle ne l’est pas, elle pourrait renvoyer des erreurs ou fournir de mauvaises réponses lorsqu’elle est utilisée dans une requête parallèle.
En cas de doute, les fonctions doivent être marquées comme UNSAFE, ce qui correspond à la valeur par défaut.
Utilisation de fonctions dans les index
- Fonctions uniquement !
IMMUTABLE | STABLE | VOLATILE- Ce mode précise la « volatilité » de la fonction.
- Permet de réduire le nombre d’appels
- Index : fonctions immutables uniquement (sinon problèmes !)
On peut indiquer à PostgreSQL le niveau de volatilité (ou de stabilité) d’une fonction. Ceci permet d’aider PostgreSQL à optimiser les requêtes utilisant ces fonctions, mais aussi d’interdire leur utilisation dans certains contextes.
Une fonction est « immutable » si son exécution ne dépend que de ses paramètres. Elle ne doit donc dépendre ni du contenu de la base (pas de SELECT, ni de modification de donnée de quelque sorte), ni d’aucun autre élément qui ne soit pas un de ses paramètres. Les fonctions arithmétiques simples (+, *, abs…) sont immutables.
À l’inverse, now() n’est évidemment pas immutable. Une fonction sélectionnant des données d’une table non plus. to_char() n’est pas non plus immutable, car son comportement dépend des paramètres de session, par exemple to_char(timestamp with time zone, text) dépend du paramètre de session timezone…
Une fonction est « stable » si son exécution donne toujours le même résultat sur toute la durée d’un ordre SQL, pour les mêmes paramètres en entrée. Cela signifie que la fonction ne modifie pas les données de la base. Une fonction n’exécutant que des SELECT sur des tables (pas des fonctions !) sera stable. to_char() est stable. L’optimiseur peut réduire ainsi le nombre d’appels sans que ce soit en pratique toujours le cas.
Une fonction est « volatile » dans tous les autres cas. random() est volatile. Une fonction volatile peut même modifier les donneés. Une fonction non déclarée comme stable ou immutable est volatile par défaut.
La volatilité des fonctions intégrées à PostgreSQL est déjà définie. C’est au développeur de préciser la volatilité des fonctions qu’il écrit. Ce n’est pas forcément évident. Une erreur peut poser des problèmes quand le plan est mis en cache, ou, on le verra, dans des index.
Quelle importance cela a-t-il ?
Prenons une table d’exemple sur les heures de l’année 2020 :
Définissons une fonction un peu naïve ramenant le premier jour du mois, volatile faute de mieux :
Demandons juste le plan d’un appel ne portant que sur le dernier jour :
Le nombre de lignes attendues (2928) est le tiers de la table, alors que nous ne demandons que le dernier mois. Il s’agit de l’estimation forfaitaire que PostgreSQL utilise faute d’informations sur ce que va retourner la fonction.
Demander à voir le résultat mène à l’affichage de milliers de NOTICE : la fonction est appelée à chaque ligne pour calculer s’il faut filtrer la valeur. En effet, une fonction volatile sera systématiquement exécutée à chaque appel, et, selon le plan, ce peut être pour chaque ligne parcourue !
Cependant notre fonction ne fait que des calculs à partir du paramètre, sans effet de bord. Déclarons-la donc stable :
Une fonction stable peut en théorie être remplacée par son résultat pendant l’exécution de la requête. Mais c’est impossible de le faire plus tôt, car on ne sait pas forcément dans quel contexte la fonction va être appelée (par exemple, en cas de requête préparée, les paramètres de la session ou les données de la base peuvent même changer entre la planification et l’exécution).
Dans notre cas, le même EXPLAIN simple mène à ceci :
Comme il s’agit d’un simple EXPLAIN, la requête n’est pas exécutée. Or le message NOTICE est renvoyé : la fonction est donc exécutée pour une simple planification. Un appel unique suffit, puisque la valeur d’une fonction stable ne change pas pendant toute la durée de la requête pour les mêmes paramètres (ici une constante). Cet appel permet d’affiner la volumétrie des valeurs attendues, ce qui peut avoir un impact énorme.
Cependant, à l’exécution, les NOTICE apparaîtront pour indiquer que la fonction est à nouveau appelée à chaque ligne. Pour qu’un seul appel soit effectué pour toute la requête, il faudrait déclarer la fonction comme immutable, ce qui serait faux, puisqu’elle dépend implicitement du fuseau horaire.
Dans l’idéal, une fonction immutable peut être remplacée par son résultat avant même la planification d’une requête l’utilisant. C’est le cas avec les calculs arithmétiques par exemple :
La valeur est substituée très tôt, ce qui permet de les comparer aux statistiques :
Pour forcer un appel unique quand on sait que la fonction renverra une constante, du moins le temps de la requête, même si elle est volatile, une astuce est de signifier à l’optimiseur qu’il n’y aura qu’une seule valeur de comparaison, même si on ne sait pas laquelle :
On note qu’il n’y a qu’un appel. On comprend donc l’intérêt de se poser la question à l’écriture de chaque fonction.
La volatilité est encore plus importante quand il s’agit de créer des fonctions sur index :
Ceci n’est possible que si la fonction est immutable. En effet, si le résultat de la fonction dépend de l’état de la base ou d’autres paramètres, la fonction exécutée au moment de la création de la clé d’index pourrait ne plus retourner le même résultat quand viendra le moment de l’interroger. PostgreSQL n’acceptera donc que les fonctions immutables dans la déclaration des index fonctionnels.
Déclarer hâtivement une fonction comme immutable juste pour pouvoir l’utiliser dans un index est dangereux : en cas d’erreur, les résultats d’une requête peuvent alors dépendre du plan d’exécution, selon que les index seront utilisés ou pas !
Cela est particulièrement fréquent quand les fuseaux horaires ou les dictionnaires sont impliqués. Vérifiez bien que vous n’utilisez que des fonctions immutables dans les index fonctionnels, les pièges sont nombreux.
Par exemple, si l’on veut une version immutable de la fonction précédente, il faut fixer le fuseau horaire dans l’appel à date_trunc. En effet, on peut voir avec df+ date_trunc que la seule version immutable de date_trunc n’accepte que des timestamp (sans fuseau), et en renvoie un. Notre fonction devient donc :
Testons avec une date dans les dernières heures de septembre en Alaska, qui correspond au tout début d’octobre en temps universel, et par exemple aussi au Japon :
Malgré les différences d’affichage dues au fuseau horaire, c’est bien le même moment (la première seconde d’octobre en temps universel) qui est retourné par la fonction.
Pour une fonction aussi simple, la version SQL est même préférable :
Enfin, la volatilité a également son importance lors d’autres opérations d’optimisation, comme l’exclusion de partitions. Seules les fonctions immutables sont compatibles avec le partition pruning effectué à la planification, mais les fonctions stable sont éligibles au dynamic partition pruning (à l’exécution) apparu avec PostgreSQL 11.
Conclusion
- Grand nombre de structure de contrôle (test, boucle, etc.)
- Facile à utiliser et à comprendre
Pour aller plus loin
- Documentation officielle
- « Chapitre 40. PL/pgSQL - Langage de procédures SQL »
- Formation Dalibo : https://dali.bo/p2_html
- variadic, routines polymorphes
- triggers, tables de transition
- curseurs
- gestion des erreurs
- sécurité
- optimisation
La documentation officielle sur le langage PL/pgSQL peut être consultée en français à cette adresse.
Questions
Quiz
Travaux pratiques
La version en ligne des solutions de ces TP est disponible sur https://dali.bo/p1_solutions.
L’exercice sur les index fonctionnels utilise la base magasin. Si vous ne l’avez pas déjà, la base magasin (dump de 96 Mo, pour 667 Mo sur le disque au final) peut être téléchargée et restaurée comme suit dans une nouvelle base magasin :
Les données sont dans deux schémas, magasin et facturation. Penser au search_path.
Pour ce TP, figer les paramètres suivants :
Hello
But : Premières fonctions
Écrire une fonction
hello()qui renvoie la chaîne de caractère « Hello World! » en SQL.
Écrire une fonction
hello_pl()qui renvoie la chaîne de caractère « Hello World! » en PL/pgSQL.
Comparer les coûts des deux plans d’exécutions de ces requêtes. Expliquer ces coûts.
Division
But : Fonction avec calcul simple
Écrire en PL/pgSQL une fonction de division appelée
division. Elle acceptera en entrée deux arguments de type entier et renverra un nombre réel (numeric).
Écrire cette même fonction en SQL.
Comment corriger le problème de la division par zéro ? Écrire cette nouvelle fonction dans les deux langages. (Conseil : dans ce genre de calcul impossible, il est possible d’utiliser la constante
NaN(Not A Number) ).
SELECT sur des tables dans les fonctions
But : Utiliser une table à l’intérieur d’une fonction
Ce TP utilise les tables de la base employes_services. Si vous n’avez pas déjà la base employes, son script de création se télécharge et s’installe ainsi :
Les quelques tables occupent environ 80 Mo sur le disque.
Créer une fonction qui ramène le nombre d’employés embauchés une année donnée (à partir du champ
employes.date_embauche).
Utiliser la fonction
generate_series()pour lister le nombre d’embauches pour chaque année entre 2000 et 2010.
Créer une fonction qui fait la même chose avec deux années en paramètres une boucle
FOR … LOOP,RETURNS TABLEetRETURN NEXT.
Multiplication
But : Fonctions avec de nombreuses conditions, des manipulations de types, et un message.
Écrire une fonction de multiplication dont les arguments sont des chiffres en toute lettre, inférieurs ou égaux à « neuf ». Par exemple,
multiplication ('deux','trois')doit renvoyer 6.
Si ce n’est déjà fait, faire en sorte que
multiplicationappelle une autre fonction pour faire la conversion de texte en chiffre, et n’effectue que le calcul.
Essayer de multiplier « deux » par 4. Qu’obtient-on et pourquoi ?
Corriger la fonction pour tomber en erreur si un argument est numérique (utiliser
RAISE EXCEPTION <message>).
Salutations
But : Fonction plus complexe
Écrire une fonction en PL/pgSQL qui prend en argument le nom de l’utilisateur, puis lui dit « Bonjour » ou « Bonsoir » suivant l’heure de la journée. Utiliser la fonction
to_char().
Écrire la même fonction avec un paramètre
OUT.
Pour calculer l’heure courante, utiliser plutôt la fonction
extract.
Réécrire la fonction en SQL.
Inversion de chaîne
But : Manipuler des chaînes
Écrire une fonction
inverserqui inverse une chaîne (pour « toto » en entrée, afficher « otot » en sortie), à l’aide d’une boucleWHILEet des fonctionschar_lengthetsubstring.
Jours fériés
But : Calculs complexes avec des dates
Le calcul de la date de Pâques est complexe. On peut écrire la fonction suivante :
Principe : Soit m l’année. On calcule successivement :
- le reste de
m/19: c’est la valeur dea. - le reste de
m/4: c’est la valeur deb. - le reste de
m/7: c’est la valeur dec. - le reste de
(19a + p)/30: c’est la valeur ded. - le reste de
(2b + 4c + 6d + q)/7: c’est la valeur dee.
Les valeurs de p et de q varient de 100 ans en 100 ans. De 2000 à 2100, p vaut 24, q vaut 5. La date de Pâques est le (22 + d + e) mars ou le (d + e - 9) avril.
Afficher les dates de Pâques de 2018 à 2025.
Écrire une fonction qui calcule la date de l’Ascension, soit le jeudi de la sixième semaine après Pâques. Pour simplifier, on peut aussi considérer que l’Ascension se déroule 39 jours après Pâques.
Pour écrire une fonction qui renvoie tous les jours fériés d’une année (libellé et date), en France métropolitaine :
- Prévoir un paramètre supplémentaire pour l’Alsace-Moselle, où le Vendredi saint (précédant le dimanche de Pâques) et le 26 décembre sont aussi fériés (ou toute autre variation régionale).
- Cette fonction doit renvoyer plusieurs lignes : utiliser
RETURN NEXT.- Plusieurs variantes sont possibles : avec
SETOF record, avec des paramètresOUT, ou avecRETURNS TABLE (libelle, jour).- Enfin, il est possible d’utiliser
RETURN QUERY.
Index fonctionnels
But : Cas d’usage d’un index fonctionnel
Pour répondre aux exigences de stockage, l’application a besoin de pouvoir trouver rapidement les produits dont le volume est compris entre certaines bornes (nous négligeons ici le facteur de forme, qui est problématique dans le cadre d’un véritable stockage en entrepôt !).
Écrire une requête permettant de renvoyer l’ensemble des produits (table
magasin.produits) dont le volume ne dépasse pas 1 litre (les unités de longueur sont en mm, 1 litre = 1 000 000 mm³).
Quel index permet d’optimiser cette requête ? (Utiliser une fonction est possible, mais pas obligatoire.)
Travaux pratiques (solutions)
Hello
Écrire une fonction
hello()qui renvoie la chaîne de caractère « Hello World! » en SQL.
Écrire une fonction
hello_pl()qui renvoie la chaîne de caractère « Hello World! » en PL/pgSQL.
Comparer les coûts des deux plans d’exécutions de ces requêtes. Expliquer ces coûts.
Requêtage :
Par défaut, si on ne précise pas le coût (COST) d’une fonction, cette dernière a un coût par défaut de 100. Ce coût est à multiplier par la valeur du paramètre cpu_operator_cost, par défaut à 0,0025. Le coût total d’appel de la fonction hello_pl est donc par défaut de :
100*cpu_operator_cost + cpu_tuple_cost
Ce n’est pas valable pour la fonction en SQL pur, qui est ici intégrée à la requête.
Division
Écrire en PL/pgSQL une fonction de division appelée
division. Elle acceptera en entrée deux arguments de type entier et renverra un nombre réel (numeric).
Attention, sous PostgreSQL, la division de deux entiers est par défaut entière : il faut donc transtyper.
Écrire cette même fonction en SQL.
Comment corriger le problème de la division par zéro ? Écrire cette nouvelle fonction dans les deux langages. (Conseil : dans ce genre de calcul impossible, il est possible d’utiliser la constante
NaN(Not A Number) ).
Le problème se présente ainsi :
Pour la version en PL :
Pour la version en SQL :
SELECT sur des tables dans les fonctions
Ce TP utilise les tables de la base employes_services. Si vous n’avez pas déjà la base employes, son script de création se télécharge et s’installe ainsi :
Les quelques tables occupent environ 80 Mo sur le disque.
Créer une fonction qui ramène le nombre d’employés embauchés une année donnée (à partir du champ
employes.date_embauche).
Test :
Utiliser la fonction
generate_series()pour lister le nombre d’embauches pour chaque année entre 2000 et 2010.
Créer une fonction qui fait la même chose avec deux années en paramètres une boucle
FOR … LOOP,RETURNS TABLEetRETURN NEXT.
Le nom de la fonction a été choisi identique à la précédente, mais avec des paramètres différents. Cela ne gêne pas le requêtage :
Multiplication
Écrire une fonction de multiplication dont les arguments sont des chiffres en toute lettre, inférieurs ou égaux à « neuf ». Par exemple,
multiplication ('deux','trois')doit renvoyer 6.
Test :
Si ce n’est déjà fait, faire en sorte que
multiplicationappelle une autre fonction pour faire la conversion de texte en chiffre, et n’effectue que le calcul.
Essayer de multiplier « deux » par 4. Qu’obtient-on et pourquoi ?
Par défaut, les variables internes à la fonction valent NULL. Rien n’est prévu pour affecter le second argument, on obtient donc NULL en résultat.
Corriger la fonction pour tomber en erreur si un argument est numérique (utiliser
RAISE EXCEPTION <message>).
Salutations
Écrire une fonction en PL/pgSQL qui prend en argument le nom de l’utilisateur, puis lui dit « Bonjour » ou « Bonsoir » suivant l’heure de la journée. Utiliser la fonction
to_char().
Test :
Écrire la même fonction avec un paramètre
OUT.
Elle s’utilise de la même manière :
Pour calculer l’heure courante, utiliser plutôt la fonction
extract.
Réécrire la fonction en SQL.
Le CASE … WHEN remplace aisément un IF … THEN :
Inversion de chaîne
Écrire une fonction
inverserqui inverse une chaîne (pour « toto » en entrée, afficher « otot » en sortie), à l’aide d’une boucleWHILEet des fonctionschar_lengthetsubstring.
Jours fériés
La fonction suivante calcule la date de Pâques d’une année :
Afficher les dates de Pâques de 2018 à 2025.
Écrire une fonction qui calcule la date de l’Ascension, soit le jeudi de la sixième semaine après Pâques. Pour simplifier, on peut aussi considérer que l’Ascension se déroule 39 jours après Pâques.
Version complexe :
Version simple :
Test :
Pour écrire une fonction qui renvoie tous les jours fériés d’une année (libellé et date), en France métropolitaine :
- Prévoir un paramètre supplémentaire pour l’Alsace-Moselle, où le Vendredi saint (précédant le dimanche de Pâques) et le 26 décembre sont aussi fériés (ou toute autre variation régionale).
- Cette fonction doit renvoyer plusieurs lignes : utiliser
RETURN NEXT.- Plusieurs variantes sont possibles : avec
SETOF record, avec des paramètresOUT, ou avecRETURNS TABLE (libelle, jour).- Enfin, il est possible d’utiliser
RETURN QUERY.
Version avec SETOF record :
Le requêtage implique de nommer les colonnes :
Version avec paramètres OUT :
Une autre forme d’écriture possible consiste à indiquer les deux colonnes de retour comme des paramètres OUT :
La fonction s’utilise alors de façon simple :
Version avec RETURNS TABLE :
Seule la déclaration en début diffère de la version avec les paramètres OUT :
L’utilisation est aussi simple que la version précédente.
Version avec RETURN QUERY :
C’est peut-être la version la plus compacte :
Index fonctionnel
Ce TP utilise la base magasin.
Écrire une requête permettant de renvoyer l’ensemble des produits (table
magasin.produits) dont le volume ne dépasse pas 1 litre (les unités de longueur sont en mm, 1 litre = 1 000 000 mm³).
Concernant le volume des produits, la requête est assez simple :
Quel index permet d’optimiser cette requête ? (Utiliser une fonction est possible, mais pas obligatoire.)
L’option la plus simple est de créer l’index de cette façon, sans avoir besoin d’une fonction :
En général, il est plus propre de créer une fonction. On peut passer la ligne entière en paramètre pour éviter de fournir 3 paramètres. Il faut que cette fonction soit IMMUTABLE pour être indexable :
(Elle est même PARALLEL SAFE pour la même raison qu’elle est IMMUTABLE : elle dépend uniquement des données de la table.)
On peut ensuite indexer le résultat de cette fonction :
Il est ensuite possible d’écrire la requête de plusieurs manières, la fonction étant ici écrite en SQL et non en PL/pgSQL ou autre langage procédural :
En effet, l’optimiseur est capable de « regarder » à l’intérieur de la fonction SQL pour déterminer que les clauses sont les mêmes, ce qui n’est pas vrai pour les autres langages.
En revanche, la requête suivante, où la multiplication est faite dans un ordre différent, n’utilise pas l’index :
et c’est notamment pour cette raison qu’il est plus propre d’utiliser la fonction.
De part l’origine « relationnel-objet » de PostgreSQL, on peut même écrire la requête de la manière suivante :
Navigation
Pour revenir au chapitre précédent, voir le chapitre précédent. Pour poursuivre la lecture, voir le chapitre suivant.