V rodném Smíchově strávil celé mládí. Chodil v letech 1851 až 1854 do farní maltézské školy u P. Marie Vítězné na Malé Straně. Pocházel z chudých poměrů a měl se jít učit obuvnictví. Měl však velmi dobré známky ve škole a proto jej rodiče poslali na studie. Začínal na nižší reálce u sv. Jakuba, kde se seznámil s Juliem Zeyerem. Pak pokračoval na novoměstské vyšší německé reálce v Mikulandské ulici , kde poznal Jana Nerudu jako učitele češtiny. Na škole zůstal do roku 1859. Poté sice od roku 1859 studoval v Praze polytechniku, ale více se věnoval jiným oborům a stal se žurnalistou a spisovatelem.
Začínal roku 1867 v redakci časopisu Hlas , krátce poté odešel do Kutné Hory do redakce jiného časopisu Vesna kutnohorská. V polovině roku 1868 se vrátil do Prahy, kde se stal odpovědným redaktorem Národních listů . Dále zde působil jako redaktor do r. 1877 , tedy i v období, kdy se musely přejmenovat na Naše listy, stal se jejich majitelem. Zároveň psal do řady jiných listů na venkově. Za své články a vedení Národních listů byl německou porotou odsouzen na 15 měsíců, které strávil ve vězení v České Lípě ( 1873 – 1874 ).Po propuštění z vězení se do redakce Národních listů nevrátil. Krátce byl v redakci staročeského časopisu Politik , ovšem i odtud byl propuštěn.
Arbesovo vězení v České Lípě
V letech 1876 – 1879 působil jako dramaturg Prozatímního divadla , pak toto místo ztratil a už natrvalo se živil jako svobodný spisovatel a novinář.
Patřil k okruhu satirických novinářů. Spolu s Mikolášem Alšem vydával satirický časopis Šotek ( 1880 – 1881 ). Obdobných časopisů založil několik: Volné slovo, Hlas předměstí, Věstník Jednoty řemesel, Slovenský kalendář. Mnohdy psát veřejně nesměl a nacházel útočiště ve stolní společnosti Mahábhárata.
V průběhu své literární činnosti si vytvořil velice oddaný vztah k Janu Nerudovi , kterého považoval za svůj vzor. Dalším vzorem mu byl Karel Hynek Mácha , ke kterému choval obrovský obdiv. Tito jej inspirovali i v jeho bohaté literární činnosti. Rozluštil deník K. H. Máchy, který popisoval jeho sexuální hrátky s milenkou Lory a vůbec jeho sexuální život.
Volil náměty ze současného pražského života. Jako člověk byl velmi svérázný a podle toho vypadají i některá jeho témata. Zavedl nový způsob literární tvorby – romaneto , tj. obsáhlejší povídka s dobrodružným, napínavým dějem. Jsou zde dramatické zápletky s překvapivým zakončením. Námětem jsou neobvyklé jevy, tajemnost, která nakonec najde racionální vysvětlení. Vychází z rozporu mezi dokázanými věcmi a věcmi mezi nebem a zemí. Hlavními postavami jsou vědci nebo studenti. Připomíná romantismus .
Socha na Arbesově náměstí v Praze na Smíchově
Pro prvky fantastiky ve svém díle (zejména Newtonův mozek a Poslední dnové lidstva ) je dnes Arbes řazen i mezi autory sci-fi .
Jeho zásluhy o českou literaturu byly oceněny členstvím v České akademii věd a umění , dopisujícím členem byl zvolen 29. října 1890 , řádným 30. listopadu 1901 .
Jakub Arbes zemřel 8. dubna 1914 v Praze, pohřben byl na Malvazinkách.