Родился в семье землевладельца в городе Фукуяма префектуры Хиросима. В возрасте 19 лет поступил в токийский Университет Васэда. Первоначальная заинтересованность поэзией и живописью постепенно эволюционировала у молодого Ибусэ, как и у многих других японских литераторов того времени, в специализацию на французской литературе. Во время учёбы подвергся сексуальным домогательствам со стороны своего преподавателя-гомосексуалиста, известного критика Нобуру Катагами, в результате чего был вынужден досрочно покинуть университет.
Начал печататься в начале 1920-х годов. Работы Ибусэ получили признание к концу десятилетия после целого ряда благосклонных рецензий, написанных ведущими литературными критиками Японии того времени. Работы раннего периода — это интеллектуальные фантазии-притчи, характеризующиеся использованием аллегорий животных, элементами исторического романа и описанием сельской жизни.
Был призван на военную службу во время Тихоокеанской войны и направлен в оккупированный Японией Сингапур, где Ибусэ принимал участие в редактировании выходившей на японском языке газеты.
Мировая известность пришла к писателю в 1966 году после публикации романа «Чёрный дождь», в котором в виде дневников нескольких персонажей рассказывается с интроспективной точки зрения история атомной бомбардировки Хиросимы и её последствий на судьбу молодой женщины, медленно разрушаемой лучевой болезнью. «Чёрный дождь» был удостоен премии Номы и императорского «Ордена культуры». Роман был экранизирован в 1989 году выдающимся японским кинорежиссёром Сёхэем Имамурой. Несмотря на широкое признание «Чёрного дождя» в адрес Ибусэ были высказаны и критические замечания: так Кэндзабуро Оэ в своём анализе романа поставил под вопрос уместность осуществлённой Ибусэ эстетизации катастрофы.
На русский язык переведены роман «Чёрный дождь» и несколько рассказов писателя.
