Ларссон воспитанник футбольной академии клуба «Гётеборг» из своего родного города. 21 октября 2012 года в матче против АИК он дебютировал в Аллсвенскан лиге[3]. 31 марта 2013 года в поединке против «Хеккена» Сэм забил свой первый гол за клуб[4]. В том же году он помог клубу выиграть Кубок Швеции.
В августе 2014 года перешёл в нидерландский «Херенвен», Ларссон подписав с клубом четырёхлетний контракт[5]. 23 августа в матче против «Эксельсиора» он дебютировал в Эредивизи[6]. В этом же поединке Сэм забил свой первый гол за новую команду.