Брык/лив/ост/ь, -и с. ж. От основы брыклив/ый. СО — суффиксальный, суфф. -ость со значением отвлеченного свойства, признака.
«Брыкли́вость, сти. с. ж. Склонность, привычка къ брыканïю» (САР 1, 360).
«― Господа, ― как бы спохватился он вдруг, ― вы на меня не ропщите за мою брыкливость, опять прошу: поверьте еще раз, что я чувствую полную почтительность и понимаю настоящее положение дела» [Ф.М. Достоевский. Братья Карамазовы (1880)]. Это единственное употребление, зафиксированное в НКРЯ.