Přítomnost drobnotvarých (mikrolitických) kamenných nástrojů prokazuje, že lidé osídlili souostroví Zanzibar již před 20 000 lety.
V 10. století ostrov osídlil Arabové a vybudovali zde vzkvétající republiku, která byla zapojena do světového obchodu mezi Arábií, Indií a Afrikou. Rozkvétalo hlavně město Stone Town (Zanzibar City) na ostrově Unguja, jelikož nabízelo chráněný a dobře obhajitelný přístav. Odtud pak Arabové podnikali cesty na východní pobřeží Afriky i do jejího vnitrozemí.
Když v roce 1499 přistál na ostrově Vasco da Gama, nalezl zde krásná města, ve kterých pulsoval obchod s Indií i dalekou Čínou. V roce 1503 se na ostrově usadili Portugalci a postupně zde převzali moc. Muslimské obyvatelstvo bylo stále majoritou.
Postupem času Portugalci ve východní Africe ztráceli vliv, cehož se snažili využít především Němci a Angličané.
Součástí sultanátu Zanzibar založeného v roce 1856 bylo i pobřeží Tanganiky. V osmdesátých letech 19. století se na území dnešní kontinentální Tanzánie (Tanganiky) snažili uchytit Němci. To sem jim podařilo a v roce 1884 se Tanganika stala součástí Německé východní Afriky. Na základě smlouvy Německa s Anglií z roku 1890 se Zanzibar stal britským protektorátem. V roce 1896 zde vypukla Britsko-Zanzibarská válka, která vstoupila do dějin jako nejkratší válka světa – trvala pouhých 38 minut.
Po první světové válce byl mandát nad Zanzibarem i Tanganikou svěřen Velké Británii. Tento stav zůstal až do roku 1961, kdy byla vyhlášena samostatná republika Tanganika, která měla statut dominia. V roce 1962 vešla v platnost ústava podle které se stala Tanganika nezávislým členem Britského společenství národů. Zanzibar se k Tanganice připojil a vznikla dnešní Tanzánie. Zanzibar si uchoval status autonomní oblasti.
Bohatství ostrova vyrostlo z obchodu. Obchodovalo se zde s otroky (až 50 tisíc ročně), slonovinou a kořením, především hřebíčkem. Právě koření stálo za světovou proslulostí ostrova.