§2 Le contexte technologique
Cas 1 les véhicules autonomes
Comment dé�nir un véhicule autonome? 220 La Suisse ne dispose pas encore de loi ni d’ordonnance spéci�que 221 aux véhicules autonomes.
Au niveau européen, il n’existe pas non plus de loi européenne 222 spéci�que aux véhicules autonomes. Le Parlement européen a
ce-pendant approuvé le rapport sur la robotique préparé par Mady Delvaux, en février 2017 162. Les députés européens ont souligné qu’un projet législatif était urgent et nécessaire pour clari�er les questions de responsabilité, en particulier pour les voitures sans conducteur. Ils ont appelé à un système d’assurance obligatoire et à un fonds supplémentaire pour garantir le dédommagement total
161. Idem, p. 189.
162. P�������� ��������, Rapport contenant des recommandations à la Com-mission concernant des règles de droit civil sur la robotique (2015/2103(INL)), p. « https : / / www. europarl . europa . eu / doceo / document / A 8 2017 -0005_FR.html?redirect » (21/03/2020); D������ Mady, Rise of the robots : Mady Delvaux on why their use should be regulated, in : European Parliament News (http ://www.europarl.europa.eu/), Brussels 2017, p. « http://www. europarl.europa.eu/news/en/headlines/economy/20170109STO57505/rise-of- the- robots- mady- delvaux- on- why- their- use- should- be- regulated » (27/10/2018).
des victimes en cas d’accidents causés par ce type de voitures 163. La proposition de résolution du Parlement européen ne dé�nit pas 223
les véhicules autonomes. Les annexes requièrent cependant de la Commission qu’elle développe une dé�nition commune des véhi-cules autonomes qui tienne compte de la forme physique de l’enve-loppe du robot, de la capacité d’apprentissage à travers l’expérience et l’interaction, de la capacité d’adaptation de son comportement et de ses actes à son environnement et de la capacité d’acquisition d’autonomie grâce à des capteurs et/ou à l’échange de données avec l’environnement et l’analyse des données 164.
Le rapport du Parlement européen demande à la Commission de 224
dé�nir un ensemble unique de règles dans l’Union pour éviter l’ap-parition d’une « mosaïque de législations nationales qui entraverait le développement de véhicules autonomes, assurant un juste équi-libre entre les intérêts des utilisateurs, des entreprises et d’autres parties concernées, tout en évitant la sur-réglementation 165». Aux États-Unis, il faut distinguer la législation au niveau fédéral et 225
au niveau des États fédérés 166.
Aux États-Unis, la chambre des représentants a approuvé à l’unani-226
mité, en juin 2017, le projet de loi fédérale dédié aux voitures auto-nomes, intitulé « the Self-Drive Act 167». Ce projet vise à dévelop-per des normes de sûreté pour les véhicules autonomes. Il autorise
163. P�������� ��������, Robots et intelligence arti�cielle : les députés de-mandent des règles européennes en matière de responsabilité, in : Parle-ment européen Actualité (http ://www.europarl.europa.eu/), Bruxelles 2017, p. « http : / / www . europarl . europa . eu / news / fr / press - room / 20170210IPR61808/robots- les- deputes- veulent- des- regles- europeennes-en- matiere- de- responsabilite » (30/10/2017); P�������� ��������, Pro-jet de rapport contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique (2015/2103(INL)) du 31 mai 2016, in : Parlement européen (https ://www.europarl.europa.eu/), Bruxelles 2016, p. « https://www.europarl.europa.eu/doceo/document/JURI-PR-582443_ FR.pdf?redirect » (29/12/2019).
164. D������, Rise of the robots, p. 14. 165. Ibidem.
166. U����� S����� S�����, Laws and Regulations, in : US Senate (https ://www.senate.gov/), Washington D.C. s.a., p. « https://www.senate. gov/reference/reference_index_subjects/Laws_and_Regulations_vrd.htm » (08/11/2017).
167. U����� S����� C�������, The Self-Drive Act (H.R. 3388), in : US Congress (https ://www.congress.gov/), Washington D.C. 2017, p. « https : / / www. congress.gov/bill/115th-congress/house-bill/3388/text » (30/09/2017).
§2. Le contexte technologique
les constructeurs à tester 100 000 véhicules sur les routes améri-caines, même si ces véhicules ne remplissent pas les critères de sû-reté actuels. Ce projet de loi impose aux constructeurs de véhicules autonomes de préparer un plan relatif à la protection de la vie pri-vée, qui spéci�e comment les données seront collectées, utilisées, partagées, et stockées par les véhicules autonomes. La compétence est donnée au département fédéral du commerce 168 pour juger des violations en matière de protection des données. Ce projet de loi doit être discuté puis approuvé par le sénat américain, avant d’être signé par le Président américain pour devenir Loi 169.
Le département américain du transport et de la sûreté des infra- 227 structures routières nationales (U.S. Dept. of Transportation and
the National Highway Tra�c Society) a également adopté en 2014 le standard de la « Society of Automotive Engineers (SAE Interna-tional) ».
Le schéma ci-dessous (�gure 2.3) présente les di�érents niveaux 228 d’autonomie des véhicules autonomes tels que dé�nis par la «
So-ciety of Automotive Engineers ».
F����� 2.3 – Les di�érents niveaux d’autonomie des véhicules au-tonomes tels que dé�nis par la “Society of Automotive Engineers”. Source : Université de Birmingham.
168. Section 5 of the Federal Trade Commission Act.
169. G�������� Christopher H. / E������ Nicholas / H���� Jack G., Self Drive Act Passes the House as Senate Prepares Its Own Bill, in : The National Law Review (https ://www.natlawreview.com/), Chicago 2017, p. « https://www. natlawreview.com/article/self- drive- act- passes- house- senate- prepares-its-own-bill » (27/10/2018).
En fonction de leur degré d’autonomie, les véhicules autonomes 229
présentent la caractéristique de pouvoir s’a�ranchir de toute super-vision 170. Pour un observateur extérieur au véhicule, il est cepen-dant di�cile de savoir sur quel mode opère le véhicule (autonome, ou contrôlé) 171.
Aux États-Unis, les constructeurs s’interrogent sur les aspects juri-230
diques de l’utilisation de véhicules de niveau 3. Que se passera-t-il si le conducteur n’est pas capable de reprendre le contrôle de son véhicule en cas d’accident? Par conséquent, certains constructeurs comme Ford envisagent d’automatiser leurs véhicules au niveau 4 directement 172.
Le délai de réaction du conducteur en cas de reprise de contrôle 231
imprévue du véhicule a également fait l’objet d’une mention spéci-�que dans le rapport Mady du Parlement européen, car il revêt une importance capitale.
Le développement de véhicules de plus en plus autonomes fait émer-232
ger une nouvelle problématique dénommée « dilemme du contrôle 173». Il s’agit de déterminer l’auteur d’un accident lorsque le véhicule est un véhicule autonome.
Lors du Sommet de Genève dédié à l’intelligence arti�cielle qui 233
s’est tenu le 22 septembre 2017, l’avocat Me Bensoussan a démontré qu’une voiture autonome peut décider seule de percuter une voi-ture A au lieu d’une voivoi-ture B, lors d’un accident inévitable, sur le seul critère du nombre de passagers des voitures A et B. Doit-elle être quali�ée d’auteur de l’accident?
À ce jour le département fédéral américain dé�nit les normes de 234
sûreté et de sécurité des véhicules traditionnels (air bag, ceinture de sécurité, assurance, permis de conduire...). Cependant, ces
régle-170. F������ Daniel J. / K�������� Kara, Preparing a nation for autonomous vehicles : opportunities, barriers and policy recommendations, in : Transpor-tation Research Part A : Policy and Practice 2015/77, pp. 167-181.
171. R������� Neil M. / S���� William D., How should the law think about ro-bots ?, in : C��� Ryan / F������� A. Michael / K��� Ian (édit.), Robot law, 1eéd., Cheltenham 2016, pp. 3-22.
172. HALO A��������, Self Driving Cars - More Questions Than Answers, in : HALO Attorneys (https ://www.halo-attorneys.com/), Las Vegas 2020, p. « https://www.halo-attorneys.com/self-driving-cars/new-rules-of-the-road.html » (21/03/2020).
173. H��������� / S�����, Robotics, autonomics, and the law, p. 187.
§2. Le contexte technologique
mentations ne sont pas applicables aux voitures autonomes, à leur design et au contrôle de leur fonctionnement. Comment estimer la qualité des di�érents modèles de voitures autonomes? Toutes n’ont pas les mêmes standards en termes de respect de la vie privée, sû-reté, sécurité, �abilité, commodité.
L’État du Nevada 174 et l’État de Californie disposent de législations 235 spéci�ques aux véhicules autonomes.
L’État du Nevada dé�nit un véhicule autonome comme un « vé- 236 hicule équipé d’un système de conduite automatisé, conçu pour
fonctionner avec un niveau d’automatisation de niveau 3, 4 ou 5 sur l’échelle dé�nie par la Society of Automotive Engineers 175».
L’État du Nevada est le premier à avoir adopté une réglementation 237 en la matière. Les véhicules seront marqués d’une plaque
d’imma-triculation rouge durant les phases de test. Si la technologie est ap-prouvée, la couleur de la plaque d’immatriculation deviendra verte. (les plaques d’immatriculation américaines classiques sont grises). Les véhicules devront impérativement contenir 2 personnes, l’une pouvant prendre le contrôle du véhicule si besoin. Chaque véhicule contiendra un système de boîte noire destiné à enregistrer les don-nées collectées par les senseurs, si bien que les informations seront disponibles jusque 30 secondes avant une collision.
L’État de Californie dé�nit un véhicule autonome 176, comme un 238 «véhicule équipé d’une technologie constituée d’un équipement et
de logiciels qui procèdent à la conduite avec ou sans personne
phy-174. A������� C�������� �� T�������������, AB69 Law, An Act relating to transportation : revising requirements for the testing or operation of an auto-nomous vehicle on a highway within this State ; authorizing the use of driver-assistive platooning technology ; authorizing the use of a fully autonomous ve-hicle to provide transportation services in certain circumstances by persons li-censed by the Department of Motor Vehicles, Nevada Transportation Authority or Taxicab Authority ; providing for the regulation of autonomous vehicle net-work companies ; providing penalties ; and providing other matters properly relating thereto, in : NELIS (https ://www.leg.state.nv.us/), Las Vegas 2017, p. « https://www.leg.state.nv.us/App/NELIS/REL/79th2017/Bill/4750/ Overview » (27/10/2018).
175. Idem, p. 4.
176. S���� �� C���������, Autonomous Vehicles in California, in : California DMV (https ://www.dmv.ca.gov/), Sacramento 2019, p. « https://www.dmv. ca . gov / portal / wcm / connect / caa2f466 - fe0f - 454a - a461 - f5d7a079de49 / avexpressterms_31017.pdf?MOD=AJPERES » (10/12/2019).
sique contrôlant le véhicule en continu 177. La notion de « Dynamic driving task » se réfère à toutes les fonctions en temps réel requises pour faire fonctionner un véhicule routier, à l’exclusion des destina-tions �nales et intermédiaires, et incluant, sans limite, la détection d’objets et d’événements, la reconnaissance et la classi�cation, la réponse à des objets et à des événements, la plani�cation de ma-nœuvres... 178».
Les véhicules autonomes sont insérés dans un environnement ou-239
vert, évolutif et complexe, soumis à de fortes variations 179. Ils sont en interaction avec des humains situés à l’intérieur et à l’extérieur du véhicule autonome 180. Ils pourront également interagir avec des agents autonomes à l’avenir.
Le Parlement européen de même que les États-Unis souhaitent mo-240
di�er certains accords internationaux tels que la convention de Vienne sur la circulation routière du 8 novembre 1968 et la convention de La Haye du 4 mai 1971 sur la loi applicable en matière d’accidents de la circulation routière.
La transition vers des véhicules autonomes aura des répercussions 241
dans les domaines suivants : la responsabilité civile (responsabilité et assurance), la sûreté et la sécurité routière, tous les sujets concer-nant l’environnement (par exemple e�cacité énergétique, utilisa-tion de technologies et de sources d’énergie renouvelables), la ges-tion et la protecges-tion des données (accès aux données, protecges-tion des données personnelles et de la vie privée, partage des données, etc.), la gestion des infrastructures de TIC (par exemple couverture dense de moyens de communications e�caces et �ables), et la gestion des ressources humaines (création et destruction d’emplois, formation
177. « Vehicule Code » par. 227.02, Section 38750; Cf. la version anglaise : “ve-hicle equipped with technology that is a combination of both hardware and software that performs the dynamic driving task with or without a natural person continuously controlling the vehicule”.
178. Voir la version anglaise : “All of the real time functions required to operate a vehicle in on-road tra�c, excluding selection of �nal and intermediate destinations, and including without limitation : object and event detection, recognition, and classi�cation; object and event response; maneuver plan-ning...”.
179. S������ Alain, Robots et gouvernance des données : avons-nous besoin de nouveaux droits et devoirs ?, in : Conférence de l’Institut Suisse de Droit Com-paré, sur le droit et les robots du 28 septembre 2017 (https ://www.isdc.ch/), Lausanne 2017, p. « https : / / www. isdc . ch / fr / evenements / prochains -evenements/droit-robot » (21/03/2020).
180. Ibidem.
§2. Le contexte technologique
des conducteurs de poids lourds à l’utilisation de véhicules auto-matisés, etc.) 181.
La responsabilité
Le Parlement européen estime que la responsabilité civile pour les 242 dommages causés par les véhicules autonomes est une question
es-sentielle qui mérite d’être analysée et à laquelle il importe de ré-pondre au niveau de l’UE a�n de garantir le même niveau d’e�-cacité, de transparence et de cohérence dans la mise en œuvre de la sécurité juridique dans chaque État membre, dans l’intérêt des citoyens, des consommateurs et des entreprises.
Compte tenu de la multiplicité des acteurs, la clari�cation du ré- 243 gime de responsabilité en cas de dommage est au coeur des enjeux
de con�ance du secteur automobile. A�n d’indemniser les victimes potentielles en cas d’accident, un régime de responsabilité strict est envisagé en parallèle d’un régime fondé sur la gestion du risque. Le régime de responsabilité strict nécessite de rapporter unique-ment la preuve des dommages causés, la relation de causalité entre le dommage causé et le fonctionnement dommageable du véhicule autonome.
La Corée du Sud a adopté un modèle de responsabilité stricte, sans 244 faute pour la circulation routière des véhicules autonomes. Ce
ré-gime de responsabilité s’applique également aux robots dans ce pays.
En revanche, le Parlement européen retient que l’approche fondée 245 sur la gestion du risque ne se concentre pas sur la personne qui
a agi de manière négligente, mais sur la personne capable, dans certaines circonstances, de réduire au minimum les risques et de gérer les répercussions négatives.
Il souligne que la responsabilité doit être imputable à un humain et 246 non au véhicule autonome.
Il demande à la Commission une proposition de loi dans un hori- 247 zon de 10 à 15 ans. Compte tenu des développements rapides de
l’innovation dans ce domaine (des taxis autonomes étant prévus par exemple à Paris en 2018), les lignes directrices et les codes de
181. F��� Martin, Rise of the robots : technology and the threat of a jobless future, New York 2015, p. xiii.
conduite joueront un rôle clef.
Le Royaume-Uni a adopté en 2018 le « U.K. Automated and Elec-248
tric Vehicles Act » selon lequel le conducteur doit être responsable quelle quoi soit la faute durant la conduite autonome et sera indem-nisé par la compagnie d’assurance. La compagnie pourra se retour-ner contre le fabricant de véhicules autonomes et les autres parties prenantes au litige pour obtenir le remboursement du coût du dom-mage.
Dans les systèmes juridiques romano-germaniques, le droit de la 249
responsabilité lie en général la responsabilité à un comportement humain, qui a pour e�et de provoquer le dommage (lien de cau-salité). Dans le même temps, la responsabilité personnelle pour la mise en danger d’autrui constitue une des raisons principales à l’en-gagement de la responsabilité d’une personne.
La question de la responsabilité est complexe pour les véhicules 250
autonomes, car ce n’est pas une personne qui décide, mais une machine « intelligente » sur la base d’un algorithme programmé par un individu ou un groupe d’individus. Les décisions sont donc prises sur une base automatisée, dont la logique dépend directe-ment du design, du modèle de l’algorithme et des données d’entraî-nement. Avant toute mise sur le marché, la performance d’un sys-tème algorithmique devrait être contrôlée avec de nouvelles don-nées.
La question de l’identi�cation de l’auteur du dommage aux per-251
sonnes et aux biens, et celle de la responsabilité des agents auto-nomes prennent une importance majeure á l’ère digitale. Le degré d’autonomie varie en outre d’un véhicule à l’autre ce qui aura des répercussions sur le régime de responsabilité. Pour des raisons de facilité, la responsabilité stricte a été adoptée comme une solution par défaut, pour compenser les di�cultés d’allocation de la respon-sabilité et garantir l’indemnisation des victimes en cas d’accident. La jurisprudence montre que les données deviennent essentielles 252
à la compréhension d’un accident et à la preuve de la responsabi-lité du dommage. En 2017, un accident mortel s’est produit avec une voiture autonome (Tesla modèle S, avec un système Autopi-lote) suite à manœuvre d’un camion. Les caméras n’ont pas fait la distinction entre le véhicule et le ciel, car il y avait beaucoup de lumière. Cependant, la boîte noire (Event Data Recorder) a révélé
§2. Le contexte technologique
que le conducteur n’a laissé ses mains sur le volant que 25 secondes pendant les 37 minutes précédant l’accident. Des avertissements avaient été envoyés au conducteur par le système d’Autopilote 182.
En 2017, seuls Audi et Tesla proposent des véhicules autonomes en 253 Suisse 183. Volvo e�ectue des tests en Suède 184. Aux États-Unis, les
acteurs Tesla et Google (Waymo) ont déjà mis en circulation des véhicules autonomes 185.
En France, des tests de circulation ont débuté le 2 octobre 2017 dans 254 le cadre d’un partenariat entre Renault, la métropole de Rouen et
la région Normandie, d’un montant de près de 10 millions d’eu-ros pour trois ans. Ces tests ont permis, à quatre voitures auto-nomes d’e�ectuer en toute autonomie trois boucles totalisant 10 kilomètres. Ce projet vise à rendre possible la commande d’un vé-hicule autonome en temps réel par l’intermédiaire de son smart-phone.
Cependant, comme en atteste le cas Flynn v. FCA US LLC (3 :15- 255 CV-00855-SMY-RJD), la sécurité des véhicules connectés à internet
doit être améliorée. Certains véhicules Fiat-Chrysler peuvent étre hackés et contrôlés à distance, par le biais du UConnect système. Aucun dommage n’a été reporté dans ce cas, mais un recours col-lectif a été e�ectué par des acheteurs contestant le prix du véhicule, trop élevé selon eux, car correspondant à un niveau de sécurité qui ne re�était pas la réalité. Le procès est prévu en octobre 2019 dans l’Illinois (« Southern District of Illinois ») 186.
Le régime de responsabilité devant s’adapter à des menaces multi- 256
182. W����� Richard, US agency criticises Tesla over fatal crash, in : Financial Times (https ://www.ft.com/), London 2017, p. « https : / / www. ft . com / content/a040c84a-97d1-11e7-a652-cde3f882dd7b » (27/10/2018).
183. M������ Nicolas, Audi A8, un pas de plus vers la voiture autonome, in : Challenges (https ://www.challenges.fr/), Paris 2017, p. « https : / / www. challenges . fr / automobile / nouveautes / audi a8 un pas de plus vers -la-voiture-autonome_486469 » (27/10/2018).
184. T��� S��� S�����, DriveMe, in : Test Site Sweden (https://www.testsitesw eden.com/), Lindholmen s.a., p. « https://www.testsitesweden.com/en/proj ects-1/driveme » (10/12/2019).
185. G����� Erico, How google’s self-driving car works, in : IEEE Spectrum Online 2011 18/7, pp. 1132-1141.
186. I������������ T���������������� U���, Cybersecurity and Arti�cial In-telligence : How to allocate Liability between the stakeholders ?, in : WSIS Fo-rum (https://www.itu.int/), Geneva 2019, p. « https://www.itu.int/net4/wsi s/forum/2019/Agenda/ViewSession/186 » (08/04/2019).
formes en plein évolution (« fake sensors », « virus ransomwares », « absence d’analyse contextuelle des systèmes de reinforcement learning »), les assureurs pourraient récompenser les entreprise qui adoptent des mesures de sécurité e�caces en diminuant leur niveau de primes a�n de les encourager 187.
Dans l’UE, le Cybersecurity Act o�re la possibilité d’une certi�-257
cation dans le domaine de la cybersécurité, a�n de démontrer sa conformité ex-ante avant la mise en circulation du véhicule. Ceci constitue une avancée majeure dans le domaine de la sécurité des véhicules autonomes.
Le 8 avril 2019, la Commission européenne a publié des lignes di-258
rectrices intitulées : « Building Trust in Human-Centric Arti�cial Intelligence » a�n de poser le cadre juridique de la con�ance dans les systèmes d’intelligence arti�cielle, à la base des véhicules auto-nomes.
Un régime d’assurance robotique
Le Parlement européen recommande la création d’un régime d’as-259
surance « robotique » applicable aux véhicules autonomes. Celui-ci devrait tenir compte de toutes les responsabilités potentielles d’un bout à l’autre de la chaîne. De manière similaire aux véhicules à moteur, ce régime d’assurance pourrait être complété par un fonds, a�n de garantir un dédommagement �nancier des victimes en cas d’accident.
Le rapport Mady demande au secteur de l’assurance de développer 260
de nouveaux produits et de nouvelles o�res, adaptés aux progrès de la robotique.
La Commission va examiner les points suivants : 261
a) la mise en place d’un régime d’assurance obligatoire, lorsque cela est justi�é et nécessaire pour certaines catégories de ro-bots. Les fabricants ou les propriétaires de robots devront ainsi contracter une police d’assurance couvrant les