Големият писател е роден на 7 ноември 1834 г. в семейството на Стойчо и Неделя Каравелови. Първоначалното си образование получава в гръцката гимназия в Пловдив, а след това – в основаното от Найден Геров епархийско училище „Св. св. Кирил и Методий“.
През 1857 г. заминава за Одеса, която по това време е един от най-големите градове в Руската империя и център на българската възрожденска емиграция. В града той прекарва няколко месеца, докато се опитва да влезе в така наречения Кадетски корпус – елитно за времето си училище, в което не е приет. От Одеса Каравелов заминава за Москва, където по това време в Московския университет учи голяма част от бъдещия елит на Третата българска държава. Там студент е и неговият брат и бъдещ министър-председател на България Петко Каравелов. Любен обаче попада под влияние на руските революционни демократи. По това време публикува и първите си разкази и повести.
Руският период в живота му продължава около десет години и през 1867 г. се премества в Белград. Тук той разгръща активна дейност, създавайки Български комитет, който има за задача да обедини родната емиграция в Сърбия, за да я включи в предстоящата освободителна борба на българите.
През 1868 г. е заподозрян, че иска да убие княз Михаил Обренович и бяга в Австро-Унгарската империя. Арестуван е в Нови Сад и хвърлен в будапещенската тъмница. Тук Каравелов създава първия си програмен документ – брошурата „Мои братя“.
Освободен на 4 януари 1869 г. поради недоказаност на обвиненията. Малко по-късно същата година през октомври заедно с Васил Левски и други революционери създават Български революционен централен комитет (БРЦК) в Букурещ. На следващата година пише програмата на комитета.
В началото на ноември 1869 г. започва да издава в Букурещ вестник „Свобода“ – политически орган на БРЦК, който излиза до 1872 г. Изданието е с народнодемократична насока. Програмата му е изразена с една дума в името му. Обосновава народното въстание като единствен път към освобождение от турско робство.
Вестникът следи с интерес външната политика. Разглежда всестранно живота на българския народ. Смята черковния въпрос за изживян. Отделя много място за култура и просвета. С богат литературен отдел, като в него се поместват наред с работите на Каравелов още стихотворения на Христо Ботев, на други автори. Печата литературно-критически статии и рецензии.
През февруари 1873 г. Каравелов подновява издаването на органа на БРЦК, преименуван на „Независимост“. Прави опит да възстанови дейността на комитета прекъсната след гибелта на Левски и разгрома на Вътрешната революционна организация.
Краят на активната революционна дейност на Любен Каравелов настъпва в последните месеци на 1874 г. Той се оттегля от ръководните органи на БРЦК, преустановява издаването на „Независимост“, настъпва разрив между него и Христо Ботев. След раздялата си с Ботев Каравелов подновява изпращането на кореспонденции в руски вестници. По време на Руско-турската освободителна война работи като преводач в щаба на руската армия.
След войната създава заедно с други революционни дейци в Търново комитет „Единство“, с който си поставят за задача помагането на революционното движение на българите в Македония, останали под османско владичество. Същият комитет е отговорен за подготвянето на Кресненско-Разложкото въстание, избухнало на 5 октомври 1878 година.
В крайна сметка се установява в Русе, но здравословното му състояние се влошава. Умира на 21 януари 1879 година от туберкулоза. Погребан е тържествено от българската общественост.