Wundert mich nicht, dass deine Karte bei einer Offsetübertaktung von fast 600Mhz die Grätsche macht. Out of the Box sollte deine Karte im Boost bereits über 1900MHz takten. D.h. wenn du sie um fast 600Mhz übertakten möchtest (und hättest es stabil) würdest du mit deinem eingestellten Takt um die 2500MHz fast den aktuellen Weltrekord erreichen :D
Bei den meisten GTX 1080 auf Luftkühlung ist bei 2050 - 2100MHz schluss. Wenn man Referenzkarten hat, dann sogar früher, da das Power Limit deutlich früher eingreift. Sollte aber bei deiner FTW Karte zunächst nicht der Fall sein. Lange Rede kurzer Sinn. Fang langsam an zu übertakten und setzt nicht gleich die Brechstange an. Beobachte den Takt, den die Karte im Standardmodus erreicht. Dann erhöhe den Takt schrittweise um 10Mhz. Beobachte weiter, fahre Benchmarks, Stabilitätsteste usw... Bis (ich schätze um die +100-120Mhz) schluss sein wird und du Abstürze und/oder Bildfehler bekommst. Denn bei +50MHz offset wirst du (vermutlich) die 2000MHz bereits überschritten haben.
 
Hoffe ich konnte helfen.
 
Gruß