28 novembre 2019 : l’Arcep publie les données concernant la qualité des appels sur les axes de transports.
Cinq indicateurs (sur les 243 totaux) n’avaient pas été inclus dans la publication de la campagne de mesures 2019 (communiqué de presse du 22 octobre 2019) car leur fiabilité devait être améliorée. Ces mesures sont aujourd’hui disponibles et publiées par l’Arcep en open data et sur monreseaumobile.fr. Il s’agit des données sur les appels maintenus pendant 2 minutes sur les axes de transport (routes, TGV, Intercités, TER, métros, RER et Transiliens).
L’Arcep publie les résultats de la 20ème édition de son enquête annuelle d’évaluation de la qualité de service des opérateurs mobiles métropolitains. Plus de 1,5 millions de mesures en 2G, 3G et 4G ont été réalisées sur l'ensemble du territoire, dans tous les départements (à l'intérieur et à l'extérieur des bâtiments) et dans les transports. L’enquête a porté sur les services mobiles les plus répandus : navigation web, lecture de vidéo, transfert de données, SMS et appels vocaux. Les tests réalisés sur 243 indicateurs visent à évaluer la performance des réseaux des opérateurs, de manière strictement comparable, et dans des conditions d’usages diversifiées.
Il existe des différences significatives de qualité entre les opérateurs : l’Arcep invite chacun à les comparer, selon la zone (dense, intermédiaire ou rurale) où il vit, et en fonction des axes de transport qu’il emprunte.
INTERNET MOBILE (« Mesures data ») : la qualité de service progresse fortement pour l’ensemble des opérateurs
La qualité des services de l’internet mobile (« mesures data ») s’améliore de façon significative pour tous les opérateurs, et ce dans toutes les zones : rurales, intermédiaires et denses. Le débit descendant moyen en France métropolitaine est de 45 Mbit/s (contre 30 Mbit/s en 2018).
En internet mobile, Orange affiche les meilleurs résultats sur l’ensemble de la campagne de mesures. Bouygues Telecom conserve son avantage sur SFR. Enfin, Free Mobile reste derrière mais progresse et réduit l’écart par rapport aux trois autres opérateurs.
En zone rurale, Bouygues Telecom obtient les meilleurs résultats, juste devant Orange et SFR. Free Mobile progresse sensiblement en ce qui concerne les débits descendants mais la qualité d’expérience (streaming vidéo et navigation web) proposée par cet opérateur en zone rurale, reste loin derrière les autres opérateurs.
VOIX ET SMS : Orange, SFR et Bouygues Télécom offrent une qualité comparable, devant Free
Au niveau national et en ce qui concerne la qualité des appels, Orange propose la meilleure qualité de service : 80% des appels de 2 minutes sont en qualité parfaite, juste devant Bouygues Telecom (79%) et SFR (78%). Free Mobile est derrière (70%), pénalisé par l’absence d’appels haute définition en 4G.
Enfin, pour ce qui est des SMS, SFR, Orange et Bouygues proposent une excellente qualité de service : 95% des SMS qui transitent par ces opérateurs sont reçus en moins de 10 secondes, contre 92% pour Free Mobile.
A noter que l’Arcep a fait évoluer sa méthodologie cette année pour se rapprocher de l’expérience utilisateur. Ce « changement de thermomètre » aboutit à des taux en valeur absolue plus bas que la méthodologie précédente. Mais cela ne traduit aucunement une dégradation de la qualité effective (voir le détail en annexe 3).
AXES DE TRANSPORT : Orange est le meilleur opérateur sur les routes et axes ferroviaires, suivi par SFR et Bouygues Telecom.
La couverture des axes routiers en data s'améliore, avec 94% de taux de chargement d'une page web en moins de 10 secondes pour Orange et Bouygues Telecom et de 91% pour SFR (soit +3 à +7 points par rapport à 2018 suivant les opérateurs).
La couverture des voies ferrées progresse également sensiblement, notamment Orange sur les RER/Transiliens, Orange et Bouygues Telecom sur les Intercités/TER, ainsi que ces deux mêmes opérateurs avec SFR sur les TGV.
Free Mobile reste très sensiblement en retrait sur ces indicateurs, malgré une amélioration importante (de +9 à +18 points sur les différents axes de transport).
Enfin, la couverture du métro parisien par les quatre opérateurs connait une très forte progression. Le taux de succès de téléchargement d'une page web est de 78% en 2019 contre 42% en 2018 et 18% en 2017.
Nouveau : mesures dans les 50 lieux touristiques les plus visités de France
Pour les mesures sur les « lieux de vie », une nouvelle dimension touristique a été ajoutée en plus des catégories « zones denses », « intermédiaires » et « rurales ». La catégorie touristique est constituée des 50 lieux les plus visités de France (musées, châteaux, parcs d’attractions, édifices religieux…)[1]. Elle vise à évaluer la régularité de la qualité de service proposée face à des phénomènes de saturation liés à l’afflux de nombreux utilisateurs en un même lieu.
Visualiser les résultats sur le site cartographique de l’Arcep « Mon réseau mobile »
L’onglet « qualité de service » du site monreseaumobile.fr est mis à jour avec les résultats publiés ce jour. Le site propose désormais une représentation cartographique, en plus de l’open data, des résultats en zone d’habitation. Il permet aussi de visualiser les résultats selon sa propre expérience : en zone rurale, en zone dense, à l’intérieur des bâtiments, en mobilité etc.
[1] Cette liste est publiée par la Direction générale des entreprises https://www.entreprises.gouv.fr/files/files/directions_services/etudes-et-statistiques/stats-tourisme/memento/2017/2017-11-MEMENTO-TOURISME-CHAP7-les-sites-touristiques-en-france.pdf
L’outil cartographique interactif de l'Arcep permet de comparer les performances des opérateurs mobiles, en apportant deux types d'informations complémentaires : « couverture simulée » et « qualité mesurée ». Toutes les données utilisées pour alimenter Mon réseau mobile sont mises à disposition en open data.
Retrouver l’ensemble des mesures en open-data
L’Arcep met à disposition l’ensemble des mesures effectuées lors de cette campagne en open data sur son site et data.gouv.fr.
Annexe 3 : l’Arcep durcit sa méthodologie pour se rapprocher de l’expérience utilisateur ; les opérateurs mobiles continuent à proposer un haut niveau de qualité
Pour la 20e édition de cette campagne de mesure, l’Arcep a souhaité élever le niveau d’exigence de la méthode d’évaluation de la qualité de service des appels mobiles dans les lieux de vie. Trois nouveautés ont ainsi été introduites :
- Lors des campagnes précédentes, les mesures portaient sur des mobiles des opérateurs appelant des lignes fixes. Cette année, tous les tests d’appels se sont faits entre deux mobiles, au plus proche des usages des Français.
- De plus, dans un souci de représentativité, 25% des appels ont été évalués entre deux mobiles d’un même opérateur (intra-opérateur) et 75% entre deux mobiles de deux opérateurs différents (inter-opérateurs).
- Pour évaluer la qualité des appels, la méthode utilisée jusqu’à présent était celle des « oreilles d’or » : des enquêteurs étaient chargés d’attribuer une note. Cette année, la méthode de qualification automatique de la qualité des appels a été retenue : elle consiste à mesurer, sur un court échantillon vocal de 8 secondes, la différence entre l’appel en cours et l’échantillon de référence [2], une note correspondant à la déformation du signal est ensuite attribuée par un logiciel. Un appel de deux minutes comporte une douzaine d’échantillons et reçoit donc autant de notes.
Notation d’un appel entier : méthode du minimum ou méthode de la moyenne
Pour établir la note globale de la qualité de l’appel entier, sur la base de la série de notes obtenues, deux approches sont possibles : retenir la moyenne de toutes les notes, ou la moins bonne de toutes les notes. Par souci de cohérence avec l’évaluation humaine, qui tend à relever les perturbations sur une communication plutôt qu’une qualité moyenne, l’Arcep propose dans les résultats de cette campagne de s’appuyer en premier lieu sur la méthode dite « du minimum ». L’Arcep publie cependant également, à des fins de transparence, les résultats obtenus avec la méthode dite « de la moyenne ». Les résultats obtenus avec les deux méthodes sont comparables et n’affectent pas les classements entre opérateurs.
L’introduction de ces trois nouveautés rend le test d’évaluation de la qualité des appels mobiles bien plus strict que lors des précédentes campagnes de l’Arcep. Ce « changement de thermomètre » aboutit à des taux de réussite plus bas sur les tests d’appels, mais ne signifie en aucun cas que la qualité des réseaux s’est dégradée d’une année à l’autre. Un pilote avait été mené lors de la campagne 2018 pour tester les appels de mobile à mobile maintenus pendant deux minutes ; ce test, généralisé dans la campagne 2019, permet de s’assurer que la qualité proposée est similaire à celle des années précédentes.
[2] Échantillon comprenant des voix féminines et masculines françaises respectant les normes de l’UIT P.863 relatives à l’évaluation objective de la qualité d’écoute perçue
Les documents associés
- L’outil de visualisation cartographique : monreseaumobile.fr
- L’open data : https://www.data.gouv.fr/fr/datasets/monreseaumobile
- L'interview de Sébastien Soriano sur Europe1 (22 octobre 2019)