Balin był jednym z czołowych reprezentantów popularnego w latach 60. i 70. ub. wieku "San Francisco Sound", mieszaniny bluesa, muzyki folkowej, rocka i jazzu, która stała się muzyczną ekspresją powstającego ruchu hippisów.

Artysta był także kompozytorem i autorem tekstów. Na scenie muzycznej pojawił się jako wokalista popowej grupy Bodacious, która nagrała zaledwie jeden album. W roku 1965 został współzałożycielem zespołu Jefferson Airplane, którego przez pewien czas był liderem i głównym wokalistą.

Przez dwa lata Balin i Jefferson Airplane byli na szczycie popularności rywalizując nawet z takimi zespołami jak The Beatles. Balin miał być jednym z inspiratorów słynnego albumu Beatlesów "Sgt. Pepper".

Po rozwiązaniu zespołu poświęcił się karierze solowej. Uczestniczył w kontynuacjach zespołu Jefferson Airplane istniejących pod nazwami Jefferson Starship i TNG.

Balin był wokalistą o charakterystycznym, łatwo rozpoznawalnym głosie; wyrażał w piosenkach całego siebie. Gdy do Jefferson Airplane dołączyła Grace Slick skoncentrowała na sobie całą uwagę publiczności i fanów. Marty odszedł w jej cień, co było powodem narastającego konfliktu między nim a zespołem.

Do jego czołowych przebojów należały takie utwory jak "Miracles", "With Your Love", i "Count On Me". Podczas kariery solowej nagrał takie popularne utwory jak "Hearts" i "Atlanta Lady".