Es folgten fünf Jahre beim FC Barcelona. Von 2003 bis 2008 war er Trainer von Ronaldhino, Messi, Xavi, Iniesta, Eto’o und vielen mehr. In dieser Zeit gewann Barcelona zweimal die spanische Meisterschaft und 14 Jahre nach dem Sieg im Europapokal der Landesmeister auch zum ersten Mal die Champions League. In den folgenden zwei Jahren konnte Rijkaard nicht mehr an die Erfolge anknüpfen, nach der Saison 2007/08 wurde sein Vertrag aufgelöst.