Рельеф дна Индийского океана начал формироваться почти 70 млн лет назад и за прошедшее время изменился незначительно.
Узкая прибрежная зона (шельф) составляет 4% от всей площади дна. Материковый склон в северной части достаточно обширный – в Аравийском море пологий, в Бенгальском заливе его наклон более 45°. У северных берегов Австралии состоит из серии плато.
Ложе океана осложняется срединно-океаническими хребтами: Аравийско-Индийским, Западно- и Восточно-Индийским. Южная часть Западно-Индийского хребта почти соединяется со Срединно-Атлантическим. Северный участок Аравийско-Индийского хребта разбит поперечными разломами, которые продолжаются по дну Красного моря. В пределах срединно-океанических хребтов наблюдаются частые землетрясения, встречаются горячие источники.
Вдоль Зондских островов расположен Зондский глубоководный желоб, где находится самая глубокая точка Индийского океана (7729 м).