Бялик родился в бедной еврейской семье. Первые пять лет своей жизни Бялик провел в деревенской глуши, в тиши лесов и полей, очарованный красотами окружающей природы. Почти на всех этапах своего творчества Бялик возвращается к первым откровениям детства и воплощает их в стихах и поэмах.

Лишившись службы, отец Бялика переехал в Житомир, поселился вместе с семьей в пригороде, где ютилась еврейская беднота, и открыл маленькую корчму для проезжающих крестьян. В Житомире Бялик поступил в хедер. Впоследствии в одной из своих поэм "Ави" ("Мой отец") Бялик с потрясающим трагизмом сопоставляет образ отца, мечтателя и мистика по своему душевному складу, с низменным образом действительности, окружавшей его. В 1880 г., после смерти отца, мать Бялика отдает его на попечение и воспитание деду - суровому и благочестивому старику-талмудисту. В доме деда Бялик провел десять лет. В автобиографическом очерке Бялик рассказывает, что в этот период в нем зарождаются три влечения, впоследствии нашедшие отражение в его поэзии. Первое - страсть к шалостям, играм и забавам, противостоявшая строгой атмосфере, царившей в доме деда. Второе - стремление к одиночеству, "уйти в себя, замкнуться, отдаться мечтам". Третье - страстное влечение к книгам. Мальчик запоем читал религиозную литературу, погрузившись в библейские книги и Талмуд. Достигнув 13-летнего возраста, Бялик переходит в бет ха-мидраш - молитвенный дом, где юноши в полном отшельничестве посвящают себя изучению священных книг. Здесь Бялик продолжает изучение Талмуда и знакомится с мистическим учением каббалы. Образ ученика-отшельника Бялик вывел в одной из своих ранних поэм "Ха-матмид".

Из современной еврейской литературы большое впечатление произвели на него появившиеся тогда первые статьи Ахад ха-Ама, идеолога "духовного сионизма", оказавшего самое сильное влияние на мировоззрение Бялика. Тогда же Бялик без посторонней помощи начал изучать русский язык, и первой прочитанной им русской книгой был сборник стихотворений С. Фруга. В поэзии на иврите преобладало в то время романтическое течение, проникнутое идеями движения Ховевей Цион. В этом духе написано и стихотворение "Эл ха-циппор" ("К ласточке"), явившееся печатным дебютом Бялика (опубликовано в альманахе под редакцией И.Х. Равницкого "Ха-пардес", 1892).

Бялик написал свое первое обличительное стихотворение в стиле библейских пророков "Ахен хапир ха-ам" ("Как сухая трава"), открывшее собой знаменитый цикл "Песен гнева", в котором поэт бичует народ за косность, духовную нищету и отсутствие стремления к обновлению: "Даже в утро борьбы под раскатами труб Не проснется мертвец и не двинется труп". Это стихотворение произвело огромное впечатление. Популярность Бялика быстро росла. По приглашению виднейших деятелей еврейской культуры Бялик переселился в Одессу и стал преподавателем в учрежденном там образцовом хедере. Совместно с И. Равницким и С. Бен-Ционом Бялик основал издательство "Мория", в котором редактировал книги для детей. Одновременно Бялик принимал активное участие в журнале Ахад ха-Ама "Ха-Шиллоах" и опубликовал в нем ряд стихотворений и бытовую повесть "Арье баал гуф" ("Арье-кулак"), продемонстрировав в ней большое мастерство в жанре реалистической прозы.

В 1902 году вышел в свет первый сборник его стихов. В 1903 году Одесский общественный комитет послал Бялика в Кишинев, чтобы собрать на месте документальный материал о совершенных там во время погрома зверствах. Под впечатлением увиденной картины Бялик создал потрясающую поэму "Бе-ир ха-харега" ("Сказание о погроме"). Беспощадный реализм сочетается в ней с обличением безвольности народа, отдающего себя на растерзание. Велико постигшее нас страшное горе, но страшнее его позор, - вот основная мысль поэмы. Призыв Бялика к сопротивлению воодушевил еврейскую молодежь на самооборону и борьбу за обновление жизни народа. "Сказание о погроме" сделало Бялика самым популярным еврейским поэтом его времени. Историк и критик И. Клаузнер назвал его "поэтом национального возрождения". В 1908 г. вышло полное собрание стихотворных произведений Бялика. С 1904 г. Бялик редактор отдела художественной литературы в журнале "Ха-Шиллоах".

В 1907 и 1913 гг. Бялик принимает участие в сионистских конгрессах. В 1909 г. он посетил Палестину, где мог воочию убедиться в громадной популярности своего творчества в ишуве - его стихотворения вошли в школьные программы, а песни распевали халуцы. Одна из его песен, "Биркат ам", стала гимном рабочих ишува.

В Одессе Бялик жил с небольшим перерывом до 1921 г., когда по ходатайству М. Горького и с особого разрешения Ленина Бялик вместе с группой еврейских писателей покинул Советский Союз. После четырехлетнего пребывания в Берлине, где он развил широкую издательскую деятельность, Бялик приехал в Палестину и поселился в Тель-Авиве. Он сразу же становится центральной фигурой в культурной жизни страны.

Бялик умер 4 июля 1934 г. Дом Бялика на улице его имени превращен в музей, в котором собраны все его произведения, письма, книги и другие материалы, касающиеся его жизни и творчества. Его именем названо крупное книгоиздательство в Израиле - Мосад Бялик - и израильская литературная премия.