La suppression des restrictions passe par une reconnaissance mutuelle des diplômes. Afin de faciliter l'accès aux activités non salariées, l'article 53 TFUE impose ainsi au Parlement européen et au Conseil d'adopter des directives relatives à la reconnaissance des diplômes et à la coordination des dispositions nationales concernant cet accès et l'exercice des professions concernées. Après avoir, dans un premier temps, adopté des directives spécifiques prévoyant les conditions d'octroi des titres dans chaque État membre, l'Union a opté pour un principe général de reconnaissance mutuelle des diplômes, certificats et autres titres. La directive 2005/36 du 7 décembre 2005 relative à la reconnaissance des qualifications professionnelles permet à tout ressortissant d'un État membre qui souhaite exercer une profession réglementée dans un autre État membre que celui où il a obtenu ses qualifications professionnelles d'accéder à la même profession et d'exercer celle-ci avec les mêmes droits que les nationaux (art. 4). Elle codifie les directives précédemment adoptées - directives relatives aux professions médicales et paramédicales et aux architectes - ainsi que la directive 99/42 concernant le système général de reconnaissance des qualifications professionnelles. Les États membres conservent cependant la possibilité d'imposer des conditions d'exercice, dès lors qu'elles ne sont pas discriminatoires, et qu'elles sont objectivement justifiées et proportionnées (cons. 3). Le texte pose des conditions différentes selon que le ressortissant souhaite s'établir ou simplement effectuer une prestation de services, dans un autre État membre, eu égard au caractère occasionnel et temporaire de celle-ci.
En cas d'établissement, pour les professions réglementées dont l'accès et l'exercice dépendent de la possession de qualifications professionnelles déterminées, l'État membre d'accueil doit permettre l'accès et l'exercice de cette profession dans les mêmes conditions que les nationaux au candidat à l'établissement qui possède l'attestation de compétence ou le titre de formation prescrit par l'autre État membre pour accéder à cette profession et l'y exercer (art. 13). Il peut toutefois être exigé du candidat qu'il effectue un stage d'adaptation, qui ne peut excéder trois ans, ou passe une épreuve d'aptitude, (1) lorsque la durée de formation qu'il a reçue est inférieure d'un an au moins à celle de l'État membre d'accueil, (2) lorsque les matières couvertes par sa formation sont substantiellement différentes de celles du titre du pays d'accueil, (3) lorsque la profession réglementée dans l'État d'accueil comporte une ou des activités professionnelles qui n'existent pas dans l'État membre d'origine et que cette différence requiert une formation spécifique dans l'État d'accueil et porte sur des matières substantiellement différentes (art. 14). Pour les professions médicales et paramédicales, notamment, la directive pose un principe de reconnaissance automatique sur la base de la coordination des conditions minimales de formation (art. 21 s.).
Lorsqu'un ressortissant envisage d'exercer son activité dans un autre État membre que celui où il est établi, l'article 5 de la directive dispose que la libre prestation de services ne peut être restreinte pour des raisons relatives à la qualification professionnelle si le prestataire est légalement établi dans un État membre pour y pratiquer la même profession et, en cas de déplacement du prestataire, s'il a exercé la profession concernée dans l'État membre d'établissement pendant deux ans minimum au cours des dix années qui précèdent la prestation lorsque la profession n'y est pas réglementée. Le prestataire qui se déplace est soumis aux règles de conduite professionnelles, réglementaires ou administratives directement applicables à la profession exercée - définition de la profession, usage des titres, fautes professionnelles en lien avec la protection et la sécurité des consommateurs -, ainsi que disciplinaires applicables dans l'État membre d'accueil. Les prestataires de services établis dans un autre État membre sont en revanche dispensés, aux termes de l'article 6, des exigences imposées aux professionnels installés sur le territoire de l'État membre d'accueil, telles que l'autorisation, l'inscription ou l'affiliation à une organisation professionnelle ou un organisme professionnel. Le prestataire qui envisage pour la première fois de se déplacer d'un État membre à l'autre pour y exercer son activité peut cependant être contraint d'en faire la déclaration préalable par écrit à l'autorité compétente de l'État membre d'accueil, renouvelable une fois par an si le prestataire fournit des services d'une manière temporaire ou occasionnelle dans cet État membre au cours de l'année concernée (art. 7). La déclaration doit être accompagnée d'un certain nombre de documents apportant en particulier la preuve de la nationalité du ressortissant, de son établissement dans un autre État membre, de ses qualifications professionnelles.