В каком словосочетании допущена ошибка в образовании формы слова. 1) шестьюстами рублями2) ихние книги

1) Шестьюстами рублями - правильное образование формы слова. Шестьсот является сложным числительным, состоящим из двух частей (шесть и сто). В таких числительных при склонении изменяются обе части слова. Вариант "шестистами" неправильный, т. к. "шесть" в творительном падеже = "шестью", а "сто" в твор. падеже = "стами".

2) Ихние книги - неправильное образование формы слова. В русском языке вообще отсутствуют такие слова, как ихние, евонные и т. д.

В данном случае правильной формой будет - их книги.