Sau khi gây dựng tên tuổi trong lĩnh vực kinh doanh và bước chân vào thể thao với đội đua xe đạp La Vie Claire, Tapie bắt đầu để tâm tới bóng đá. Qua lời giới thiệu của thị trưởng Gaston Deffere của Marseille, ông mua lại CLB Olympique de Marseille năm 1986 với cái giá tượng trưng 1 franc, và đặt ra tham vọng cực lớn. Mục tiêu của Tapie là giúp OM trở thành đội bóng Pháp đầu tiên vô địch Cúp C1.
Cùng với sự xuất hiện của Tapie, Marseille bắt đầu quá trình thăng tiến chóng mặt của mình. Mặc dù vậy, họ cũng phải đợi 3 năm mới giành được chức VĐQG đầu tiên dưới triều đại vị chủ tịch nổi tiếng này. Và sự chờ đợi ấy cũng rất xứng đáng vì ở mùa 1988/89, OM không chỉ vượt mặt Monaco và Bordeaux để vô địch Ligue 1, mà còn ẵm luôn cả danh hiệu Cúp Quốc gia Pháp và hoàn tất cú đúp.
Một điểm nhấn đáng nhớ thời Tapie mới ngồi ghế chủ tịch Marseille chính là những xung đột với người đồng nhiệm Claude Bez bên phía Bordeaux. Hai người đứng đầu các CLB đang thống trị ở Ligue 1 khi ấy luôn khắc khẩu và đối chọi gay gắt. Ngày 14/04/1990, Bez tới Velodrome trên chiếc xe Cadillac sang trọng và chờ đợi Bordeaux đánh bại Marseille. Nhưng cuối cùng, đội bóng của ông lại thua 0-2 và mất chức vô địch vào tay OM.
Bốn ngày sau thắng lợi trước Bordeaux ở Ligue 1, Marseille lại để thua Benfica 0-1 ở bán kết Cúp C1. Tuy nhiên, đó là thất bại trong danh dự của đội bóng Pháp, vì một bàn thua không đáng có khi tiền đạo Vata của Benfica để bóng chạm tay trước khi ghi bàn duy nhất của trận đấu. Tapie đã nổi điên vì trận thua đau đớn này, và tuyên bố Marseille sẽ sớm đánh chiếm đỉnh cao của bóng đá châu Âu.
Chỉ 1 năm sau khi dừng bước ở bán kết, Marseille đã trở thành đội bóng Pháp đầu tiên lọt vào chung kết Cúp C1 kể từ Saint Etienne hồi thập niên 1970. Khi ấy, họ được đánh giá cao hơn so với Red Star Belgrade. Nhưng trong trận chung kết tại Bari (Italia), OM lại hòa 0-0 trước khi thua đối thủ Nam Tư ở loạt sút luân lưu. Tapie sau đó tuyên bố: “Số phận chống lại OM, nhưng chúng tôi sẽ trở lại”.
Hai năm sau thất bại ở Bari, đội bóng của Tapie đã “trả thù” được số phận. Marseille đã bước lên đỉnh châu Âu sau khi đánh bại kình địch AC Milan trong trận chung kết Champions League đầu tiên trong lịch sử. Và tác giả bàn thắng duy nhất giúp họ lên ngôi chính là Basile Boli, người từng bật khóc trong trận chung kết 2 năm trước. Chiến thắng này cũng đưa Tapie ghi tên mình vào lịch sử của bóng đá Pháp.
Chỉ 4 ngày trước chiến thắng lịch sử trước AC Milan, Tapie đã có một ý tưởng rất tệ. Ông muốn mua một vài cầu thủ Valenciennes để họ “buông” trong trận gặp Marseille. Hậu vệ Jean-Jacques Glassmann của Valenciennes đã tiết lộ âm mưu này vào cuối mùa, và vụ bê bối cũng đánh dầu sự sa sút của đế chế Tapie. Marseille bị tước chức vô địch Ligue 1 mùa 1992/93, cấm dự các cúp châu Âu mùa kế tiếp và đánh tụt hạng.
Ngày 11/12/1994, Tapie buộc phải rời cương vị sau 8 năm rưỡi ngồi ghế chủ tịch Marseille. Đây là sự ra đi bắt buộc, sau khi đội chủ sân Velodrome bị đánh tụt hạng và bản thân ông cũng dính líu đến những rắc rối về pháp lý sau vụ mua độ các cầu thủ của Valenciennes. Đây có thể coi là dấu chấm hết cho một câu chuyện tình lãng mạn, dù sau đó Tapie đã trở lại Marseille trên một cương vị khác.
Bốn năm sau vụ bê bối Valenciennes, Tapie cuối cùng cũng phải vào tù. Ông bị tuyên án 2 năm tù vì tội hối lộ và mua chuộc nhân chứng, trong đó có 8 tháng tù bắt buộc và 3 năm tước quyền công dân. Tapie rốt cuộc chỉ thụ án 5 tháng rưỡi trước khi được thả. Nhưng trải nghiệm “xộ khám” này đã chấm dứt tham vọng chính trị của Tapie, người từng ấp ủ kế hoạch ra tranh cử Tổng thống Pháp.
Chỉ 5 năm sau khi chia tay Marseille, Tapie đã trở lại sân Velodrome để đảm nhiệm vị trí GĐTT. Trong vai trò cánh tay phải của chủ tịch Robert Louis-Dreyfus, ông đã giúp đội bóng thăng tiến từ vị trí thứ 16 lên thứ 9 trên BXH. Nhưng màn tái hợp này cũng kết thúc chỉ sau 1 năm. Phần vì Tapie đã quen có quyền lực tuyệt đối, phần vì đam mê với bóng đá của ông đã giảm bớt sau thời gian tù tội.