24. huhtikuuta 2008: Amazon rakentaa vallankumouksellisen pilvipalvelualustan Electric Compute Cloud (EC2) -palvelullaan. Äskettäin julkistettu joustava IP -ominaisuus laajentaa dramaattisesti EC2: n mahdollisuuksia todellisena isäntäympäristönä.
Verkkosivustovaatimuksiin nykyinen toteutus vaikuttaa sopivalta, mutta korkean käytettävyyden edellyttäviin projekteihin liittyy ainakin yksi merkittävä rajoitus.
Suunnittelemme kuormitetun klusterin kokonaan EC2: n sisällä. Tämän kokoonpanon käyttöliittymää hallitsisivat kaksi pientä EC2-ilmentymää, jotka toimisivat tehokkaasti kuormituksen tasapainottimina tai reitittiminä. Pyynnöt saapuisivat ensisijaiselle reitittimelle ja ohjautuisivat myöhemmin klusterin vähiten ladattuun esiintymään. Koska yksi reititin toimii yhtenä epäonnistumispisteenä, tarvitaan vähintään yksi ylimääräinen reititin todella saatavilla olevaan järjestelmään. Näyttö voi pingottaa säännöllisesti ensisijaista reititintä, ja jos ongelmia ilmenee, toissijaisen reitittimen on määritettävä IP -osoite uudelleen itselleen ja otettava se ensisijaiseksi reitittimeksi.
Yhdessä Amazonin saatavuusalueiden kanssa tällaisessa järjestelmässä ei olisi yksittäisiä epäonnistumispisteitä. Tämän asettelun toteutettavuuden testaamiseksi loimme kaksi pientä EC2 -ilmentymää ja seurasimme aikaa, joka kului toisessa ilmentymässä ensimmäisen IP -osoitteen valtaamiseksi. Kolmessa testissä tämä kesti keskimäärin 3 ja puoli minuuttia eikä koskaan alle 3 minuuttia.
Meillä on samanlainen klusteri perinteisessä isäntäympäristössä ja IP -haltuunotot kestävät noin 2 sekuntia.
Tästä on tietysti seurauksena se, että ensisijaisen reitittimen vian sattuessa teoreettinen seisokki kestää jopa 3.5 minuuttia, kun toissijainen reititin odottaa IP -osoitteen etenemistä. Oletamme, että suuri määrä reitittimiä Amazonin verkossa tekee nopeammasta IP -etenemisestä epäoikeudenmukaisen tehtävän.
Yksi ratkaisu olisi siirtää reitittimet EC2: n ulkopuolelle. Lisääntynyt ping- ja latenssiaika tekevät tästä ratkaisusta epäoptimaalisen.
Ihannetapauksessa Amazon tarjoaisi kuorman tasapainotusratkaisun, joka on suunniteltu erityisesti tällaisiin tarkoituksiin. Ellei jotakin muuta ratkaisua tarjota, “erittäin saatavilla olevat” klusterit kokonaan Amazonin EC2 -palvelussa eivät ole todella saatavilla.