860 likes | 1.12k Views
Serious Request met Windows Azure. Michaël Hompus Principal Developer, Winvision. Michaël Hompus. Principal Developer bij Winvision Specialisaties zijn SharePoint, Windows 8 Store Apps , Windows Phone 8 en Windows Azure E-mail: michael.hompus@winvision.nl Twitter: @eNeRGy164
E N D
Serious Request met Windows Azure Michaël Hompus Principal Developer, Winvision
Michaël Hompus Principal Developer bij Winvision Specialisaties zijn SharePoint, Windows 8 Store Apps, Windows Phone 8 en Windows Azure E-mail: michael.hompus@winvision.nl Twitter: @eNeRGy164 Blog: http://blog.hompus.nl
Winvision In 2012 met SeriousRequest finalist voor beste Microsoft-oplossing voor goede doelen wereldwijd Onderwijs Zorg Goede doelen
Serious Request met Windows Azure Na deze sessie… • …weten jullie hoe wij SeriousRequest met Windows Azure gerealiseerd hebben en welke problemen en oplossingen we hierbij zijn tegengekomen • …kunnen jullie de tips en voorbeelden gebruiken om zelf een high available en high performance website op Windows Azure te hosten
Agenda Introductie De aanleiding De keuze voor Windows Azure Architectuur De bezoeker Groeien De kosten Linkjes Vragen
3FM Serious Request Sinds 2004 organiseert 3FM de actie “3FM Serious Request” Elke editie staat in het teken van een stille ramp die samen met het Nederlandse Rode Kruis wordt uitgekozen
Het Nederlandse Rode Kruis Sinds 2009 levert Winvision een Microsoft-platform met SharePoint, Dynamics CRM en Dynamics AX aan het Nederlandse Rode Kruis Op dit platform worden regelmatig onderdelen toegevoegd om de processen bij het Rode Kruis te ondersteunen
De vraag van het Rode Kruis “We zoeken voor 3FM Serious Request een nieuwe leverancier voor de plaataanvraag website. Kan Winvision een module aan het platform toevoegen om online platen aan te vragen?”
Wat zijn de functionele requirements? • Een formulier om platen aan te vragen • Een formulier om alleen te doneren • Het Rode Kruis wil content beheren • Het Rode Kruis wil donaties exporteren • 3FM wil de aangevraagde platen inzien • Aangepast formulier voor het callcenter
Wat waren de eerdere ervaringen? Beschikbaarheid applicaties Zware load & aanvallen op de site Oorzaak: alle systemen stonden op dezelfde servers Veel bezoekers op de website ca. 500.000 unieke bezoekers & 60.000 donaties Veel verschillende browsers en devices Grote toestroom tijdens actie Exponentiele groei van bezoekers naar het einde toe Korte levensduur De actie is maar een week op de radio
Waarom voor Windows Azure kiezen? Beschikbaarheid applicaties Looselycoupled architectuur in het “DNA” van de services Updates uitrollen zonder down time Veel bezoekers op de website ASP.NET MVC met Razor voor hoge productiviteit HTML5, CSS3 en jQuery voor compatibiliteit in browsers Grote toestroom tijdens actie Proactief meegroeien met de bezoekersaantallen Mogelijkheid om “onbeperkt” hardware toe te voegen Korte levensduur Datacenters gehost en gemanaged door Microsoft Geen hardware of licenties nodig
Architectuur Welke applicaties hebben we? Welke kenmerken heeft de front- en backend? Hoe verbinden we deze omgevingen? Wat zijn voor- en nadelen van ontkoppelen?
Welke applicaties hebben we? Website vraag een plaat aan Website voor directe donatie Website voor het callcenter Beheersite voor Rode Kruis Beheersite voor 3FM
Frontend Backend Vraag een plaat aan Workerrole Blob Storage Shared Cache Directe Donatie Queues SQL Database Callcenter 3FM Beheersite NRK Beheersite
Welke kenmerken heeft de frontend? • Anoniem verkeer • Geen directe communicatie met de database • Een transactie is afgerond als het bericht op de Queue staat • Data wordt gelezen van Blob Storage en uit de Shared Cache Geoptimaliseerd om te schalen
Welke kenmerken heeft de backend? • Geautoriseerd verkeer • Redundantie in servers is er alleen voor beschikbaarheid • Directe communicatie met de database • Data wordt geschreven naar de Blob Storage en de Shared Cache Geoptimaliseerd om met data te werken
Hoe verbinden we deze omgevingen? • Storage Queues • Workerrole • SQL Database • Blob Storage • Shared Cache
Storage Queues • Berichten worden pas van de Queue verwijderd als ze succesvol verwerkt zijn • Indien de server crasht zal het bericht later door een andere server alsnog opgepakt worden • Elke actie kost geld, ook als de Queue leeg is Tip: Gebruik een “back-off” strategie om in tijden van inactiviteit het aantal transacties te beperken
Back-off strategie voor queue’s intcurrentBackoff= 0; while (true) { List<CloudQueueMessage> messages = cloudQueue.GetMessages(1).ToList(); if (messages.Any()) { currentBackoff= 0; // Reset back off foreach (CloudQueueMessagemessage in messages) { cloudQueue.DeleteMessage(message); // We zijn klaar, verwijder het bericht } } else { // Er zijn geen berichten, ga 2 seconde langer wachten if (currentBackoff< 300) { currentBackoff= currentBackoff + 2 }; Thread.Sleep(TimeSpan.FromSeconds(currentBackoff)); } }
Blob Storage • Zowel beschikbaar voor privé als publieke bestanden • Bestanden worden redundant opgeslagen • Mogelijkheid om de bestanden geografisch redundant op te slaan (Amsterdam - Dublin) • Je betaald voor transacties én opslag Tip: Zet bij een blob een goede Cache control header Tip: Je kan bestanden niet in de root opslaan, maar wel in een container met de naam “$root”
SQL Database (SQL Azure) • Gelimiteerd in aantal concurrent connecties • Je betaald voor de grootte van de database • Microsoft levert availability van de service, geen (historische) back-up van je data • Firewall configuratie om rechtstreeks toegang te verlenen • Goede online tooling voor aanpassing en performance analyse Tip: Gebruik SQL Sync om je data te repliceren Tip: Gebruik DacServices om een back-up van je database te maken
Backup database naar blob storage CloudBlobbackupFile = backupContainer.GetBlobReference(storageName); // Backup kan alleen naar een lokale file LocalResourcelocalResource= RoleEnvironment.GetLocalResource(LocalStorageName); string filename = localResource.RootPath + backupFile.Name; DacServices services = new DacServices(connectionString); services.ExportBacpac(filename, "SeriousRequest"); backupFile.Properties.ContentType= "binary/octet-stream"; backupFile.UploadFile(filename); // Sla de back-up op blob storage File.Delete(filename); // Ruim de locale file welweer op!
Shared Cache (AppFabric Cache) • Gedistribueerde cache die overal vandaan te benaderen is, dus ook buiten je deployment • Dit in tegenstelling tot de nieuwe cache role • Gelimiteerd in aantal connecties en grootte Tip: Connecties moet je disposen! Tip: Je kan ook data cachen in (JSON) bestanden op Blob Storage, dit is véél goedkoper
Wat zijn voordelen van ontkoppelen? • Vlak voor het begin van de actie kwam een verzoek voor 2 nieuwe koppelingen • UPC • MyOrder • Voor elke import was het alleen nodig om een CSV-regel om te zetten in een bericht op de queue
Wat zijn uitdagingen bij ontkoppelen? • Hoe garandeer je een unieke sleutel? • Hoe voorkom je dat workerroles hetzelfde tegelijkertijd willen uitvoeren?
Hoe garandeer je een unieke sleutel? • Guid.NewGuid() is redelijk uniek Uitdaging: “In het financiële systeem heb je maar 5 karakters aan ruimte voor je unieke sleutel” • Decimaal zijn dat maar 100.000 unieke waarden • Base36 levert 365 = 60.466.176 unieke waarden
Hoe garandeer je een unieke sleutel? • Met een queue! Let op! Berichten op de queue verlopen na maximaal 7 dagen Tip: De NuGet package SnowMaker geeft batches van unieke id’s uit aan nodes en gebruikt een blob als lockmechanisme
Betaalkenmerken genereren private void AddPaymentIds(CloudQueuecloudQueue) { for (inti= 0; i < Threshold; i++) { long newId= SnowMaker.NextId("PaymentId"); AlphadecimalpaymentId= new Alphadecimal((ulong)newId); string value = paymentId.ToString("5"); cloudQueue.AddMessage(new CloudQueueMessage(value), TimeSpan.FromDays(7)); } }
Workerroles niet hetzelfde, tegelijk laten doen • Je wil de Workerrole redundant uitvoeren voor availability, maar dat betekent ook dat alle functionaliteit door meerdere servers tegelijk wordt uitgevoerd Tip: Zet je staging omgeving uit Tip: Gebruik een lease op een centrale Blob File als lock-mechanisme
Gebruik lease als lock-mechanisme CloudBlockContainerlockContainer = blobClient.GetContainerReference("lock"); CloudBloblockFile= lockContainer.GetBlobReference("emailLock"); string leaseId = lockFile.AcquireLease(60); ProcessEmail(lockFile, leaseId); lockFile.ReleaseLease(leaseId);
Stuur een e-mail met SendGrid private void ProcessEmail(CloudBloblockFile, string leaseId) { vartransportInstance = Web.GetInstance( new NetworkCredential(username, password)); varmailMessage = Mail.GetInstance(); mailMessage.AddTo(toAddress); mailMessage.From= new MailAddress(fromAddress); mailMessage.Subject= subject; mailMessage.EnableGoogleAnalytics("sr12", "email", "", "", ""); mailMessage.Html= replacedBody; transportInstance.Deliver(mailMessage); lockFile.RenewLease(leaseId, 60); }
Verzonden e-mails met SendGrid 65.000 30.000 25.000 15.000 10.000 9.000 4.000 750 200 300 100 150 75 50 dec-16 dec-17 dec-18 dec-19 dec-20 dec-21 dec-22 dec-23 dec-24 dec-25 dec-26 dec-27 dec-28 dec-29 Requests Opens
De flow van een aanvraag Workerrol Queue Queue Betaling Request Betaalkenmerken Confirm Database Bevestiging
De flow van de Rode Kruis beheersite Worker rol Cache Database Blob storage
De flow van de 3FM beheersite Worker rol Cache Database
Veel bezoekers Hoe voorkom je manipulatie van data? Hoe kan je dataverkeer beperken? Hoe kan je meerdere form-factors ondersteunen?
Hoe ondersteun je alle browsers? • Oude browsers kunnen best met HTML5 en CSS3 overweg zolang we “progressiveenhancement” toepassen • jQueryzorgt voor een goede abstractie om tegen de DOM aan te programmeren • Wel een eigen versie van de jquery.validateplugin om met IE7 backwardscompatibility mode van Internet Explorer overweg te kunnen
Internet Explorer 10 Internet Explorer 7
Hoe bewaar je state in de client? • Met een wizard moet je de state meenemen naar de andere stappen • Gebruik de MvcSerializer uit MVC Futures • State kan alleen signed, of encrypted en signed worden
Serialize State (View.cshtml) @using (Html.BeginForm()) { @Html.Serialize("state", Model, SerializationMode.EncryptedAndSigned) }
Serialize State (Output) <input name="state" type="hidden" value="CC1D907C69732C67A0850F661D39D576F4FAC714ABD06A93FA40BE430125196A2C71A2D74E6A2FDB23E796A6198BA9A3BDBE88D194256F804173C08029BE15D1082580898EF6B4DD67AB14E3523B6D1AA81E880C7E2832A34BC9C86B1565F40EC34C5D993727EAC3ACAC25976DF63AF4EE28FA20B082E5D1A1BDE492397206670A6A6F27D25AF4E432A2D682BF7E37ACF2B110B8B317CA69EA1F5247F076B8095D950B77D48B7307FAF0BAE020F57C57C00F07FB63F96AA31A7DB8C7F26032208CA7ABC9AA28F936501FA01B5BCF388B30A2A26188FE7B4BF6B1C8F50EB7480E66EDFAD2D8FCD249A41F5F16D2B9ABF27994DDAA3B23B3106DADDF81C8D5AD5580C08074C815A02030FFE9C3E20A16034F159F2F63DD29A6AF99B7CBB69FEA0CC30F84A81ACE28C6A7C8548B4AB3F7FF07614D920C82DFEDD0E1FE17675CA1E6E3E3955E7983EFC94DB9D7775C624D9FF637BA84932BDDEA9770D57C9F11957599B4B10915E3B9FB6FE85BBE133000F75B68F9E32EEC6A4412D1F72767D39CC1211846003767BFA43F3FE63F0858BD509B70407517C4DB34DFC8A20E039026BDE6D0BB4F871D4E9A18CD405C83E562756A04304C7AE7BA4721972BA2E41F0D963291AAF02FD2AA51B278CB0F5C7DF6C6752BDE7C642F98875CA1D9F4433CC85DBD0FA56DD2F2983704A63039C1313BFCE62B1D1C9A28E16AB63BA109EF2BA4590AA0810D5B587B5636409B87FC4581142DA163A600EC8255EE82BFEFCE774BFC03F79FD75D51EA3BB3E526EBF02CBB027E0510DA27152D87AE01C5C25724DB8A62B8EE81BD346189574D87D63F84065778D80267D133441A4B8453B5497E467AB766964EBBC53735848CC6602D90B3C6C26C1253213F85546E2625D6CF4776EFCDD176CB3D85597D5AF6D007136DAF736E5DE787C052CC23E20BE832CB0264AD5DB0B3C5F3199FDAD983138CB23DBC8CA538855BD0EF9E7C5A2725942DB236D819720540AE53E67B397CD6CECD286A1DD7FAD1E8526E6C6A452B044A11FE305CA60095900C51F2E0D2CC0C8E6E4F899E8E65AD734538F08E7B32F1EA7FCA78846BF0C87A7EB55A883D8E090C8899815AEA76F831F9489507D46ADA89B256C317168CC7023767DB2C69FF2B22A424E1D3349CE5104D121E32F48ABDB0C789411670FEB373DB7FA272040959D04A6082AC9A3417E00B833CE02DC49B452D3F83515F312FCE24F1DF7C9E18E15A78A7DDC06502A57011DAB9E3C2E869FB3FBC0BF8CE06C2BA943EEE1C6910DE4BDC17498A00618CFE621EA6222FC6E3F981C3F7594783A7AB74D67D0EECA3E474A8B1CFF3EB55A18B8531C230D89EA315B3FF69A04CD8D8575DFB641497A630E4DABEC3E58EC9A44D5F5DEAC64559EB21169A9D2CC4C7A923C4F40E275AFD4283299365D9091A832783689A1BFA8FC304B65E085DE35FD2087BC159A0A3A58C92D67BBD8455D643686BF36C0FA915F0CCC63499177585442FF7ED3D1AD63D5CAD4CE743B07FD4322F7CFFEC35722E1AE37EE4B994FB3E43D7874929AC33E1634FB469C323F5509A5158FDF2A428767589D46989BAD0CF35CB" />