A legkorábbi golftáskák a 19. század végén jelentek meg. Abban az időben a labdazsákot nem nevezték labdazsáknak, hanem caddy-nek hívták, ami a caddy vagy a klubhordozó helyettesítését jelentette.
Háromféle legkorábbi golftáska létezik. Az egyik Osmond automata caddyje, amelyet 1893-ban találtak fel és szabadalmaztattak. A cég székhelye Lee, Délkelet-Londonban.
A táska kerete fából készült. A könnyű hordozáshoz két bőrfogantyú található a tetején. Van egy vászon táska alján, ahol a klub lehet helyezni. A két fa tartó fém összecsukható eszközzel van összekötve. Amikor a golyószsák a földre esik, a fa tartó automatikusan megnyílik. Kell lennie egy bőr négyzet táska tetején a táska tartani golflabda, de elveszett a kor miatt. A faváz fő testének alsó részén, a vászontáska tetején van egy bronz érem, amelyre nyomtatják: "az automaton caddy, Osmond szabadalma, Thornhill működik, Lee, S.E."
A második a Bussey automata caddy táska, amelyet George Bussey cég gyártott és szabadalmaztatott körülbelül ugyanabban az időben. Busey labda táska is fából készült. Működési elve hasonló az ozmander golyóstáskához. A fa golyószsák fogantyúja azonban acélhuzallal csatlakozik a fa fő testéhez. A mechanikus szerkezet kiváló, és nagyon kényelmes felemelni és elhelyezni. Van egy kis vászon zseb tetején a táska tartani golflabdák. A fogantyú dobozfából készül, a táska fő teste mahagóniból, a konzol fraxinus mandshurica-ból készül.
A harmadik korai labda táska Holbrook klub fuvarozó, amelyet feltalált és szabadalmaztatott Harry Holbok a New York-i. Holbok 1891-ben a New York állambeli Yankeshire-ben megalapította a St. Andrews golfklubot. Tagja volt a híres "almafa Bandának". Az almafa Gang úttörő szerepet játszott a golf fejlesztésében az Egyesült Államokban.
A fent említett korai caddie táskák mellett az igazi modern golftáskák csak a 20. század elején jelentek meg. A 19. században és a 20. század elején a golfozók általában csak 6-7 klubbal játszottak, köztük egy réz hajóút fával, 4-5 vasalóval és egy putterrel. Ezért az első napokban a labdát 4 hüvelyk átmérőjű hordó alakúba csomagolták, ami megegyezik a golyós lyuk átmérőjével. Először vászonra varrták, amit ceruzazsáknak hívnak. Használata során a korai táska, caddies még mindig szereti tartani a táskát és a klub együtt a kezükben miatt a kis számú klubok.
Ezt követően különféle vászon- és bőr tolltáskák jelentek meg. Mivel nehéz állni, valaki feltalált egy félhold konzolnak nevezett konzolt, amelyet kifejezetten a golyóstáskával használnak. A konzol fából vagy fémből készült, és kényelmesen megragadt a toll hordó típusú golyószsák szájánál, hogy a golyószsák állni.
Az 1930-as évek végén az acél test fokozatosan felváltotta a diótestet, és a golfozók egyre több klubot használtak, elérve a szabályok által megengedett 14-et, ami a golfzsákot egyre nagyobbá és nagyobbá tette. A tolltartó labdazsák fokozatosan kivonult a történelem színpadáról. Azonban a gyűjtők és a rajongók a Walnut Antik klubok a világ minden tájáról még mindig szeretik használni a kis golf táskák készült vászon és bőr, amelyek tartalmazzák Walnut Antik klubok egy évszázaddal ezelőtt. Megtapasztalják a golfot egy évszázaddal ezelőttről.

