Plusieurs observateurs du marché croient que l’industrie des fonds de couverture a vu le jour en 1949 lorsque Alfred Winslow Jones est devenu le premier adhérant au principe de protéger un portefeuille de placements contre les risques du marché. À l’époque, Jones a créé un fonds d’actions sous forme de société en nom collectif afin de maximiser la latitude et la flexibilité de la création du portefeuille. La fondation de cette nouvelle méthode de placement de Jones reposait sur la « couverture » de ses positions longues et vendant à découvert d’autres titres dans le but de se protéger contre les risques du marché. C’est là qu’est né le terme « fonds de couverture ». Il utilisa également l’effet de levier (argent emprunté) pour rehausser le rendement potentiel de l’actif de la société en nom collectif. Jones définissait la vente à découvert et l’effet de levier comme étant des « outils spéculatifs utilisés à des fins conservatrices ». En 1952, il transforma sa société en nom collectif en une société en commandite simple, et imposa des frais incitatifs correspondant à 20 % des profits en tant qu’associé directeur. La société a conservé la valeur nette totale de sa liquidité. Ce portefeuille a recours à la vente à découvert, à l'effet de levier, aux frais incitatifs et au risque partagé, qui constituent les quatre caractéristiques les plus courantes des fonds de couverture.
Le succès de M. Jones a finalement été reconnu publiquement en 1966 dans le cadre d’un article publié par la revue Fortune. Cet article, intitulé « Un certain M. Jones que personne ne peut suivre », attira l’attention de deux hommes riches qui cherchaient à obtenir un meilleur rendement sur leurs placements et à recruter des investisseurs talentueux prêts à sacrifier un gros salaire pour un partage des profits des portefeuilles qu’ils géraient. En 1968, il y avait environ 200 fonds de couverture, dont ceux établis par des gestionnaires de placements réputés comme George Soros, Michael Steinhardt et Warren Buffett.
Au début des années 90, la presse financière soulignait les rendements obtenus par les gestionnaires de fonds de couverture comme George Soros (Fonds Quantum) et Julian Robertson (Fonds Tiger et son pendant extraterritorial, le fonds Jaguar). Plusieurs fonds de couverture ne ressemblent plus au modèle classique d’actions acheteur/vendeur élaboré par Jones.
Au fur et à mesure que cette industrie a pris de l’expansion, la gamme de titres associés aux fonds de couverture s’est élargie. Alors que Jones ne s’intéressait qu’aux actions ordinaires, les experts modernes ont également recours aux obligations, obligations convertibles, bons de souscription, titres adossés à des créances hypothécaires, et un large éventail d’instruments dérivés afin de contrer les risques du marché. On estime à 8 000 le nombre de fonds de couverture dans le monde actuellement, tandis que la valeur de l’actif géré par l’industrie des fonds de couverture totalisait environ 1 trillion USD en 2006.
Historiquement, les fonds de couverture n’ont jamais été à la portée d’un grand nombre d’investisseurs, car leurs exigences minimums de placement sont très élevées.