administration

Blog προγραμματιστή: τι συμβαίνει κάτω από το καπό του gamer.ru

content auto translated from {from}

Μικρή ιστορική αναδρομή

Ο ιστότοπος gamer.ru βιώνει ήδη την τρίτη (και ίσως, ακόμη και την τέταρτη) πλήρη επαναγραφή του κώδικα. Αρχικά, το έργο είχε γραφτεί σε Ruby-on-Rails ακόμη και στα μακρινά μηδενικά. Η αρχιτεκτονική ήταν μονολιθική, έτσι κάθε αίτημα χρήστη «έσυρε» μαζί του τεράστιο αριθμό πρόσθετων ερωτημάτων στη βάση δεδομένων και τη φόρτωση όλων των δυνατών βιβλιοθηκών. Για να εξασφαλιστεί η λειτουργία του πόρου με 100 χιλιάδες επισκέπτες την ημέρα, χρειάστηκε να χρησιμοποιηθούν πέντε ισχυροί διακομιστές, να χρησιμοποιηθούν memcache, Redis και να αναπαραχθούν οι βάσεις δεδομένων σε πολλούς διακομιστές. Αυτό επέτρεψε κάπως να επιβιώσουμε μέχρι το 2018, όταν στην εταιρεία άρχισαν προβλήματα χρηματοδότησης και η ομάδα προγραμματιστών διαλύθηκε.

Γύρω στο 2020, ο ιστότοπος έχασε το SSL πιστοποιητικό του. Η ανανέωσή του αποδείχθηκε αδύνατη, καθώς η παλιά έκδοση του Ruby-on-Rails εξαρτιόταν από παλιά έκδοση του openssl, ενώ τα νέα πιστοποιητικά απαιτούσαν μια πιο πρόσφατη έκδοση. Κανείς δεν ανησυχούσε ιδιαίτερα — ο ιστότοπος συνέχιζε να λειτουργεί, έστω και με δυσκολίες. Από το 2015 έως το 2025, η επισκεψιμότητα μειώθηκε σταδιακά από 100 χιλιάδες σε 1 χιλιάδα άτομα την ημέρα. Σε κρυφά μπλογκ και σχόλια άρχισε να εμφανίζεται τεράστιος όγκος spam, συμπεριλαμβανομένων μηνυμάτων με όχι και τόσο κατάλληλο περιεχόμενο. Η Yandex έχασε εντελώς το ενδιαφέρον της για εμάς, ενώ στο webmaster υπήρχε ένα μονοχρωματικό κόκκινο χαλί κρίσιμων σφαλμάτων.

Τι κάναμε για να διορθώσουμε τα πάντα

Ο ιστότοπος χρειάζονταν σοβαρή βελτιστοποίηση, καθώς η παλιά αρχιτεκτονική δεν ανταγωνιζόταν πια τις πραγματικότητες. Στη βάση συσσωρεύτηκαν περίπου 100 χιλιάδες αναρτήσεις και 1,6 εκατομμύρια σχόλια, τα οποία έπρεπε να μεταφερθούν προσεκτικά σε νέο μηχανισμό. Αποφασίσαμε να περάσουμε σε μικροϋπηρεσίες τόσο στο backend όσο και στο frontend, ενώ ταυτόχρονα χρησιμοποιήσαμε σύγχρονες τεχνολογίες, συμπεριλαμβανομένων των μοντέρνων HTMLElement.

Το έργο επανασχεδιάστηκε πλήρως από μηδενική βάση σε NodeJS χωρίς τη χρήση εξωτερικών βιβλιοθηκών, κάτι που μας εξασφαλίζει ήρεμη ζωή για τα επόμενα 10–20 χρόνια. Τώρα μπορούμε να μην φοβόμαστε ότι μια αναβάθμιση κάποιου μοντέρνου βιβλιοθήκης όπως το ExpressJS ή το React θα σπάσει τον ιστότοπο και θα απαιτήσει μια άλλη εκτενή αναδιάρθρωση. Ακόμη και τον οπτικό επεξεργαστή των αναρτήσεων αναγκαστήκαμε να τον γράψουμε μόνοι μας, καθώς δεν μπορέσαμε να βρούμε τίποτα έτοιμο που να ανταποκρίνεται στις ταπεινές μας απαιτήσεις. Τώρα ο μηχανισμός αποδίδει HTML σε σελίδες για παλιές συσκευές και μηχανές αναζήτησης, ενώ δίνει περιεχόμενο στους χρήστες μέσω AJAX.

Μέχρι σήμερα, ο ιστότοπος αντέχει με επιτυχία μέση φόρτιση περίπου 150 αιτημάτων ανά δευτερόλεπτο, με το μεγαλύτερο μέρος της κίνησης να προέρχεται από αναζητητές και άλλους crawler. Ιδιαίτερα ενεργά συμπεριφέρονται οι crawlers semrush και openai, οι οποίοι φαίνεται ότι προσπαθούν να εξαγάγουν ολόκληρο τον ιστότοπο σε μια μέρα. Εάν η Yandex μας ευρετηριάζει αργά, με ρυθμό 1-2 αιτημάτων ανά δευτερόλεπτο, αυτοί οι τύποι μπορούν να ζητήσουν και 50.

Ωστόσο, ο μηχανισμός έχει βγει τόσο βελτιστοποιημένος, που αυτή η στρατιά bots εξυπηρετείται εύκολα από μία μόνο οικονομική virtual machine κοστίζουσα περίπου 500 ρούβλια το μήνα.

Φυσικά, περιοδικά ο ιστότοπος μας θυμίζει τη σημασία του με σφάλματα 502 και 504, που σταδιακά εντοπίζονται και διορθώνονται. Μερικές φορές αποδεικνύεται ότι κάποιος έχει ξεχάσει να προσθέσει δείκτη στη βάση δεδομένων, μερικές φορές μια πολύπλοκη ερώτηση πρέπει να χωρίζεται σε αρκετές απλές, και μερικές φορές απλά τελειώνει ο χώρος στον διακομιστή. Αλλά δεν τα παρατάμε — η δουλειά συνεχίζεται, και η διαδικασία, όπως λένε, «είναι υπό έλεγχο».

post more button

1081

post actions

Σχόλια

Yeah, dynamic import is definitely a cool feature of JS.
I hadn't worked with such a stack before and I was used to a pretty strict separation between back-end and front-end, so a more flexible approach is not obvious to me.
I had encountered this more as a theoretical concept and had not seen such solutions in real projects. It was especially interesting to see this in action on a real website. Thank you!

Yes, something like that ) This approach also allows using modules with the same exports on both the front and back ends.

Like this:
let { session, ajax, addViewRoute } = typeof window !== 'undefined'
? await import("../../shared/frontend.js")
: await import("../../shared/backend-server.js")

This allows you to use the same code in both the browser and the server. It is especially useful for templates and defining public routes.

Cool! It somewhat reminds me of Dapr from .NET, a very interesting and elegant solution. Am I correct in understanding that the business logic does not know where the module is physically located, and the transport is chosen at the abstraction level? If so, it turns out a custom RPC abstraction has been implemented with switching between local calls and http?

a self-written gateway, made in such a way that microservices can either be part of a monolith or can be run as standalone microservices. That is, any API method can either remain within the monolith or be extracted separately with a couple of lines of code. This helps save memory (since it is limited, and one process requires about 200-500 MB of RAM), but at the same time, allows for distributing the load across additional servers. There is a universal function ajax(method, path,...), which calls functions from neighboring modules; if the neighboring module is in the same domain, the function is called directly, and if in another, it is done through a network request with the user's session identifier being passed through... Everything turned out very well, and, just to be safe, for now, everything is still hanging in the monolith.)

Thank you for the detailed analysis. It is especially valuable that not only the solutions are described, but also the real limitations that had to be faced. Such things usually remain behind the scenes.

I am curious, if it's not a secret, what are you currently using as an API Gateway? What has proven convenient for routing, auth, and rate-limit in a microservices architecture?

We simplified the mechanics a bit, and it was decided to update the engine as soon as possible, albeit with minimal functionality, since the old engine had a lot of bugs that got us banned from search engines, causing our traffic to drop to zero. The correspondence has been saved, the governance will appear a bit later, and we will further develop gamification elements. Energy and experience were transferred from the old database. We have not yet decided what to do with the medals and statuses, and we will try to implement the friends/subscriptions functionality in the near future.

The course towards the revival of Gamer, of course, cannot fail to please, but where, may I ask, have the remaining little bonuses from the old times gone: the VIP status that allowed editing posts without spending energy, the medals that brought such pleasant nostalgia, messaging with friends, and the overall friends list? Where is my stewardship on the blog "The Witcher 3: Wild Hunt"? And where is my personal Wiedzminka status, once earned by reaching level 60? Oh right, and where are the levels themselves? I am not asking for the light bulb back, but it is very disappointing to lose the elements of gamification that the old Gamer was famous for.

Thank you.